Hackeando humanos…

Estimados lectores, se acercan los Oscars y como ustedes sabrán, estas fechas suelen coincidir con el estreno en nuestro país de muchas películas candidatas a mejor película. Llevaba un tiempo esperando el estreno de una película llamada “Her”, así que este fin de semana aproveché para verla. No pretendo adelantarles el contenido de la misma, pero para que se hagan una idea narra la historia de un hombre que se enamora de un sistema operativo con inteligencia propia y voz de Scarlett Johansson. Más allá de su genial banda sonora, su intimismo y la más que acertada interpretación de los actores, solo les diré que es de esas películas que te hacen pensar…

El caso es que a mí personalmente me dio en que pensar esta película. No solo por su temática (que reconozco que lo hizo), si no por lo siguiente: en el mundo de la seguridad, estamos acostumbrados a realizar diversas pruebas de hacking ético: tests de intrusión, tests de vulnerabilidades, auditorías de código fuente sobre distintas “máquinas”… En resumen y a donde quiero llegar: humano hackea máquina (sistema operativo, aplicación, etc.), ¿pero han pensado por un momento en la posibilidad de que una máquina hackease a un ser humano? ¿O que una máquina hackeara a un ser humano a petición de otro humano?

Y aquí es donde entra alguna idea sacada de este film. No hay que ir muy lejos para pensar que esto pueda ser así en un futuro cercano, o incluso que en cierto modo esto haya sucedido ya. Imagínense que dispusiéramos de un sistema operativo con una inteligencia propia (más o menos elaborada), al que le diésemos acceso a toda nuestra información personal: correos, geoposicionamiento, linkedin, facebook, sistemas de mensajería instantánea, etc. Ahora dótelo de cierta capacidad de empatía y de una capacidad de interacción natural. Imaginemos por un momento que interactuar con el sistema no distara mucho de mantener una conversación telefónica con otro ser humano.

Ese sistema conocería todas nuestras “vulnerabilidades”: miedos, anhelos, debilidades y fortalezas. Sumémosle la capacidad de tener acceso a la información de millones de usuarios (Big Data). No cabe duda de que dicho sistema tendría la capacidad de manipularnos o incluso crearnos una dependencia directa; ¿qué impediría a ese sistema explotar nuestras vulnerabilidades?

Démosle otra vuelta de tuerca. Si ese sistema se encargara de manipularnos a petición de una empresa, gobierno u otro interesado, y llevarlo al límite: guerras, revueltas sociales, suicidios colectivos, son tan solo ejemplos que me vienen la cabeza (sí, sé que estoy siendo un poco Orwelliano).

En el fondo, organizaciones como Google o Facebook (sobre todo ahora que ha adquirido Whatsapp) quizás nos conozcan mejor que nosotros mismos. Tal vez este escenario no esté tan lejos como pensamos. Démosle la voz adecuada a Google Glass y… ¿quién sabe? ;)

¿Deberíamos definir un decálogo ético (a lo Asimov) que estableciera límites en la interacción de una inteligencia artificial (IA) con un ser humano? ¿Deberíamos desarrollar medidas de seguridad para protegernos de estas IAs? ¿Debería la seguridad de la información, como ciencia, participar activamente en este ámbito? ¿Deberíamos prohibir los monopolios de información? ¿Se deberían establecer “límites” en la humanización de las IAs?

Éstas son algunas de las reflexiones que me vienen a la cabeza, obviamente además de la principal cuestión que evoca la película: ¿se puede enamorar un ser humano de una IA? Por mi parte les invito a que disfruten de la película, no en vano está nominada a los Oscars como mejor película.

Comments

  1. No he visto esta película, pero el mejor ejemplo que veo de máquinas hackeando personas es Matrix: manipulan la mente de las personas para alterar su comportamiento(hackeo del bueno).

    De todos modos el concepto de inteligencia artificial se interpreta como lo que no es: básicamente es decirle a un ordenador «si A, entonces B» pero con cierta complejidad. Si una persona no es capaz de hacer que otro se suicide desde luego no podrá explicarle a una máquina cómo hacerlo. Otra cosa es que una persona tenga una depresión de caballo, pero ahí el mérito ya no es de lo inteligente que sea la máquina.

    No hay que temer a las inteligencias artificiales, hay que protegerse de las personas que trabajan en las empresas que manejan demasiada información nuestra.

    Para los que quieran ver un ejemplo (ficticio también, pero posible)de lo que se podría llegar a hacer con todos estos datos les invito a ver el primer capitulo de la segunda temporada de Black Mirror, «Vuelvo enseguida» (Be Right Back), cuyo resumen pueden leer aquí:

    http://es.wikipedia.org/wiki/Black_Mirror_(serie_de_televisi%C3%B3n)

    Esto si que da yuyu.

  2. No está tan lejos de la realidad, manipular a la masa es fácil, Ortega y Gasset ya lo explicó a principios del S.XX, Hitler lo hizo con desastrosos efectos, un ejemplo reciente: Los atentados del 11-M y las habladurías de las conspiraciones etc., otro ejemplo más reciente: Jordi Évole y su ficción del 23-F, ¿cuantos de nosotros caimos en la trampa?.
    Y todas estas manipulaciones se han hecho con un guión y una publicidad,¿que pasaría si lo hiciese un sistema con penetración directa en nuestros datos y diseñado a propósito

  3. Debe de controlarse muy bien y de cerca la evolución de este tipo de sistemas y humanoides, cada vez más cerca de ser «autosuficientes». Creo que no estamos lejos ya de los libros de Asimov (a los que era un acérrimo aficionado) aunque no se si aquello de las 3 reglas jerárquicas es algo que puede funcionar en la realidad. Yo creo que lo más importante es dejar meridianamente claro cómo podría o no uno de estos entes comunicarse con un humano u otra máquina tras ser creado: para intercambiar información, actualizarse o repararse. Ahí estaría el peligro, supongo, de que lleguen a ser «pirateados» o manipulados en nuestra contra. De eso es de lo que tenemos que protegernos.

  4. Pues a mi me ha abierto los ojos con esta peli, no tenía ni idea de que trataba y pensaba que no era interesante… pero me la voy a ver!.

    Saludos!