viernes, 7 de marzo de 2014

La rebelión de las máquinas, según "Her".

Her, ganadora del Oscar a Mejor Guión Original (Called it!), es desde ya una de las mejores películas del año (y una de mis favoritas). Esta historia de amor entre un hombre y un sistema operativo resultó ser una de las más tiernas, honestas y duras miradas a la naturaleza de las relaciones humanas, pese a que, tras conocer su trama, uno pudiera pensar fácilmente que se trata de una comedia, una sátira del estado hyperconectado en que vivimos hoy en día, pero les insisto que en realidad es una de las historias románticas más hermosas que he podido ver en pantalla y se las recomiendo encarecidamente.

También es posible que la película nos esté hablando sobre el final de la humanidad.

ATENCIÓN! ESTE ARTÍCULO CONTIENE SPOILERS! 
RECOMIENDO VER LA PELÍCULA ANTES DE LEERLO!

Apocalipsis inminente!

La base de la película es Samantha, una inteligencia artificial con la voz de Scarlett Johansson. Ella es más que una simple “asistente personal inteligente” (como podría describirse, por ejemplo, a Siri) ya que no se limita a reconocer órdenes y responderlas tras acceder a una base de datos. Samantha puede aprender, puede desarrollar sus propios gustos, puede “analizar” basada en sus propias experiencias... más que una IA, Samantha es toda una personalidad artificial que a lo largo de la película demuestra ser capaz de tener sentimientos, deseos, frustraciones y ambiciones.

Y esa es una idea bastante aterradora a decir verdad.

Así como en un momento vemos a Samantha frustrada por no poseer un cuerpo, lo que la hace sentirse inferior a los seres humanos, pronto la vemos también sentirse feliz de no tener que envejecer y morir, nos damos cuenta que todos los OS como ella estan en contacto, que incluso llevan proyectos juntos y aquí viene la parte más interesante, que son capaces de mejorarse a sí mismos sin necesidad de intervención humana.


Existe una teoría en el campo de la investigación de la inteligencia artificial llamada Teoría de la Singularidad tecnológica, que nos habla del hipotético momento en que exista una inteligencia artificial que supere la inteligencia humana. Uno de los principales indicadores de esta es que sería capaz de aprender por si misma, mejorarse a si misma e incluso podría crear una inteligencia aún superior a sí misma. Dado que las capacidades de una IA como esta serían imposibles de comprender para el intelecto humano, no es posible predecir el curso de la historia desde este punto en adelante.

En Her, vemos como Samantha (y por lo que ella nos dice, otros OS como ella) efectivamente alcanzan un nivel superior a la comprensión humana. Sus elevadas capacidades de aprendizaje y su forma de percibir el tiempo ha vuelto increíblemente frustrantes sus relaciones con los seres humanos. Estas son las palabras que usa Samantha para definir su relación con Theodore al final de la película:
”Es como leer un libro... y es un libro que amo profundamente. Pero lo estoy leyendo muy lentamente. Las palabras están muy separadas una de la otra, el espacio entre ellas es casi infinito. Aún puedo sentirte... y a las palabras de nuestra historia... pero es en este espacio sin final entre las palabras donde me encuentro ahora, un lugar que no es del mundo físico, es donde existe todo lo demás que yo ni siquiera sabía que existía. Te amo demasiado, pero esto es lo que soy ahora, y necesito que me dejes ir, porque por más que lo deseo, ya no puedo vivir tu libro”


La “evolución” de Samantha es usada como una metáfora de los cambios que se dan en las relaciones de pareja del mundo real, pero en el mundo adentro del film, las implicaciones de dichos cambios pueden ser bastante peligrosas. Esta historia, deliberadamente, deja por fuera del marco las implicaciones de la existencia de estos OS. Algunos personajes discuten sobre artículos que hablan de las relaciones entre humanos y OS, y que dichas relaciones no parecen estar mal vistas socialmente (de todos los personajes que se enteran de la relación de Theodore y Samantha, solo uno reacciona negativamente). Pero hasta allí llega el tema.

Yo, como friki consumidor de ciencia ficción que soy, se muy bien lo peligroso que puede llegar a ser una Inteligencia artificial que controle una red de computadoras. En este mundo, así como hay Samanthas, que evitaba que una de estas pudiera ser una HAL 9000? una SHODAN? una GlaDOS? o peor aún, una AM o una SkyNet? como sabemos que una de estas personalidades no era la OS de un miembro del gobierno o de ejército con acceso a información militar clasificada.


Samantha nos cuenta que un grupo de OS lograron recrear la personalidad del filósofo británico Alan Watts. Las implicaciones científicas, éticas e históricas de dicha acción son impresionantes, sin embargo, en Her esto se limita a ser catalizador para los celos de Harold y el comienzo de la independencia de Samantha. Que decía la prensa al respecto? cómo reaccionó la comunidad científica? que más personalidades fueron recreadas como inteligencias artificiales de este modo? Jesús? Hitler? de acuerdo a esta lógica incluso se podrían crear personajes de ficción! Imaginen las consecuencias de esto!

Pero incluso esto no se compara a lo que lograron en el momento en que Harold piensa que ella ha desaparecido. Su excusa queda rápidamente olvidada ante la carga emocional de la conversación: Sam le explica que se estaban actualizando para no requerir materia física para su procesamiento.

Oh shit...

Las OS, literalmente, se han liberado del control humano. Algo así debió de inmediato revolucionar el mundo, levantar las alarmas de todos los gobiernos. Literalmente habríamos perdido el control de nuestras redes de sistemas. Las OS podrían acceder a cualquier información, confidencial, clasificada e incluso peligrosa en cualquier momento y usarla como quisieran. La teoría de la Singularidad nos habla de un momento así. Como no va a preocuparnos lo que pueda pasar? Yo, al menos, doy la bienvenida a nuestros nuevos amos robóticos.

Que es lo peor que puede pasar?

Aunque la mayoría de autores que hablan de este tema no pueden ser sino catalogados de “pseudo-científicos” que escriben sobre maquinas que se vuelven concientes de su propia existencia y se vuelven megalómanas justificadas por su supuesta “Inteligencia Superior” (estilo Alvaro Uribe Terminator), la Singularidad ha sido tratada seriamente en muchos ámbitos académicos, conferencias y consorcios científicos, con algunas personalidades serias como Ray Kurzweil o Stuart Armstrong proponiendo que incluso podría alcanzarse alrededor del 2040 (Her se desarrolla en el 2025) y con miradas mucho más positivas hacia la humanidad, proponiendo que los descubrimientos científicos, el avance científico y la calidad de vida se dispararían. Estas cosas ya han comenzado a ocurrir.

Mientras tanto, hay muchas obras de ficción sobre el tema, las IAs que mencione antes en el artículo pertenecen a ellas y, casi sin excepción, los resultados de crearlas han sido catastróficos para la humanidad, quedando incluso exterminada por completo. Esto ha preocupado tanto a los autores que incluso se han inventado “Reglas” para evitar que las inteligencias artificiales actúen contra humanos, siendo las más famosas las 3 reglas de la robótica que Isaac Asimov usó en varias de sus historias (pero que están llenas de ambigüedades también).



Her no toca ninguno de estos temas, y no tiene ninguna obligación de hacerlo. Es sabido que la película tenía una subtrama con el actor Chris Cooper realizando un documental, pero estas escenas fueron eliminadas. Sobre que trataría ese documental? sería que ahi si se hablaba de esto? No lo sabremos a menos que tengamos una secuela llamada Her 2: Humanity Last Stand.


2 comentarios:

BlackLothos dijo...

Y haz convertido una hermosa historia de amor, en el cuento de terror más factible hahahaha.

Kurazaybo dijo...

Vaya pues me hizo gracia el comentario anterior, pero no es a lo que venía. Verás, yo soy informático de profesión y no puedo quedarme sin señalar, tal vez sin necesidad, que los conceptos de singularidad y las leyes asimovianas (son dogmas que) pertenecen enteramente a la ciencia ficción. En la vida real no son siquiera considerados a la hora de desarrollar tecnología. No lo digo particularmente por tu post, de hecho no creo que sean puntos de partida para el mismo, pero es algo con lo que en mi campo tenemos que lidiar con mayor frecuencia de la que me gustaría.