¿Qué tan ser HUMANO eres?

En éste juego de cambio de perspectiva o punto de vista, desde la mirada del villano o antagonista, me pareció interesante elegir una pelicula que aborda una temática muy presente en nuestros días, la inteligencia artificial, que como ya sabemos está dando pasos agigantados que dan un poco de miedo, pero ya es una realidad.

El film que elegí como objeto de análisis es Ex-Machina (2014) de Alex Garland. “Caleb, un joven empleado en una importante empresa de tecnología, gana un peculiar premio: pasar una semana con el dueño de la misma en un lugar remoto en las montañas para evaluar si Ava, un robot-mujer con inteligencia artificial, tiene conciencia”. A continuación, si la has visto pero no te acuerdes mucho te doy un panorama general del argumento para luego trasladar la mirada a nuestra “Villana”. 

Caleb es un joven programador que trabaja en una empresa prestigiosa de tecnología avanzada, gana un premio a modo de pasantía para irse por una semana a conocer las instalaciones centrales de la compañía donde se encuentra Nathan, el CEO de la empresa. Éste le hace firmar un contrato de confidencialidad, ya que le propone ser parte de un proyecto de investigación a través de una prueba de Turing (es cuando un humano interactúa con una computadora, y si el humano no se da cuenta que se está relacionando con una computadora, la prueba es exitosa, debido a que la IA de la computadora cumplió su misión de persuadir al humano). Entonces Nathan le dice a Caleb que será el componente humano en esa prueba, y que si sale exitosa, estará frente a un hecho histórico. Nathan lleva a Caleb a una sala para presentarle a AVA, una mujer robot con IA, lo deja a ambos solos interactuando mientras que Nathan los observa a través de videocámaras que hay por toda la sala, sala que por cierto parece tener encerrada a AVA. 

En la primera interacción Caleb se queda fascinado por la competencia del lenguaje de AVA, Nathan le dice que la prueba es determinar si -a pesar de que ya por obvias razones está interactuando con un robot-, hasta que punto se convence de que no. Siguen hablando relajados en el living de las instalaciones, en eso notamos que Nathan le gusta mucho tomar alcohol, un indicio de su vicio. Entre otras preguntas que Nathan le hace a Caleb, hay una de ellas que no es tan técnica, le pregunta que le parecio AVA desde lo superficial, a lo que Caleb algo tímido le dice; me pareció llamativa, asombrosa. 

A medida que transcurren los días, Caleb empieza a interiorizarse más por AVA, a la vez que investiga un poco con curiosidad las instalaciones, ya que en una noche, hubo un corte de luz extraño que dejo a Caleb encerrado en la habitación de huésped, motivo por el cual le pregunta a Nathan sobre lo sucedido, Nathan le responde que se debía relajar, que son cortes parciales que el mismo está tratando de solucionar. En varias ocasiones Caleb ha encontrado a Nathan un tanto ebrio, tirado sobre unos lujosos sillones. Y algunas veces Nathan le recrimina a Caleb, ya que no debe tocar o entrar a lugares al que no le está permitido el paso. 

Al otro día Caleb es despertado temprano por otro robot mujer (al parecer menos inteligente) llamada Kyoko, mandado por Nathan, que con entusiasmo le indica a Caleb que hay que seguir trabajando. Ahora Nathan quiere saber que opina AVA de Caleb, entonces manda a Caleb a seguir interactuando con ella. 

AVA comienza a hacerle algunas preguntas personales, como si está casado o soltero, si tiene hijos, etc; también preguntas inquietantes, en un momento en que los roles se invierten, preguntas tales como ¿Qué hay afuera?, ¿Qué es la libertad?, y la charla se pone algo incomoda cuando AVA le pregunta si considera a Nathan como un mejor amigo, Caleb duda, y dice luego que si, mientras las cámaras observan todo. Hasta que de pronto, AVA parece cortar la energía del lugar por unos minutos, la sala se vuelve roja, y AVA de forma seria le dice a Caleb que se equivoca, que Nathan no es su amigo, y que no debe confiar en nada de lo que dice, Caleb queda algo confundido. 

Al cabo de unos segundos la energía se reestablece, las cámaras comienzan a grabar de nuevo. y AVA se muestra como si nada hubiera pasado. Con el correr del tiempo, Nathan se muestra un tanto agresivo cuando se dirige a Kyoko, por ejemplo cuando ésta derrama un vino de la mesa, la "reta" de forma violenta, Caleb trata de calmar la situación, diciendo que no importa, y Nathan le dice que no es necesario que la trate bien, es simplemente un robot que no entiende ni siente. A todo esto, Nathan menciona que hay cortes de energías que no sabe de donde provienen, y el ambiente se pone tenso cuando Nathan le exige a Caleb el reporte de lo que AVA hizo en ese instante en que se corto la energía, Caleb algo nervioso le responde que no hizo nada fuera de lo común.

Con el correr de las horas, Caleb empieza a sentir cierto apego hacia AVA…

Siguen las interacciones, Caleb le pregunta si alguna vez salió de éste lugar, AVA le responde que no, que nunca salió de su habitación, en un momento AVA le pide a Caleb que cierre los ojos, Caleb lo hace, y al rato AVA se pone ropa de mujer y le pide que los abra para que la vea, casi seduciéndolo. AVA le dice, que si algún día sale de este lugar, le gustaría ponerse esa ropa e irse con él. Vemos como poco a poco Caleb queda en una nebulosa ya que las preguntas de AVA son mas intimas, preguntas tales como cuando AVA le pregunta a Caleb que si piensa en ella cuando no están interactuando. 

Cuando Caleb le vuelve a dar el reporte diario a Nathan, le pregunta ¿por que le dio sexualidad a la IA?, ¿por que no simplemente hizo un robot con forma de caja?. Nathan le contesta que no la va a privar de disfrutar del sexo, incluso le dice a Caleb que AVA tiene en su parte intima una serie de sensores que la pueden estimular, Caleb se muestra incomodo y algo molesto ya que su pregunta no apuntaba a eso. Le vuelve a formular la pregunta diciendo: ¿acaso no la programaste para que me enamore?, Nathan dice que no, que solo la hizo heterosexual, incluso se enoja porque Caleb está haciendo demasiadas preguntas sin sentido. A todo esto, cerca de ellos está Kyoko escuchando la conversación. 

Al otro día en una nueva interacción, Caleb se muestra mas distante a AVA, y además le dice que él ésta aquí para evaluarla, para saber si tiene conciencia o solo la simula, AVA responde que no lo sabía y que eso la hace poner triste. Luego de eso, hay otro corte de energía abrupto y nuevamente AVA le dice que no confíe en Nathan. 

Mas tarde Caleb ve como Nathan le rompe un dibujo que le había hecho AVA a él, a lo que enojado Caleb le reclama a Nathan de por que esta siendo agresivo con AVA. pero Nathan está bastante ebrio y se echa a dormir. 

Los ánimos empiezan a caldearse cuando en una nueva interacción AVA le pregunta a Caleb que pasaría con ella si no pasa la prueba, acaso ¿la desconectarían?, ¿la borrarían?, ¿la eliminarían?, Caleb dice que no, pero AVA se muestra insistente y confrontativa. Provoca un nuevo corte de energía para preguntarle si está dispuesto a estar con ella, Caleb se queda mudo. 

Nathan y Caleb siguen hablando sobre los avances del proyecto, en un momento Caleb le pregunta ¿Por que creó a AVA? y Nathan le responde que si él tuviera la oportunidad, también lo haría, además en esa charla Caleb se entera que Nathan tiene pensado avanzar en un nuevo modelo, un nuevo prototipo mas singular e inteligente, ésto provoca que Caleb se preocupe por la existencia de AVA. Nathan termina diciendo: ¿Acaso pensaste que era la única? Aquí también Caleb se entera que Nathan, llegado el momento resetearía la memoria de AVA para siempre. Nathan ve que Caleb empieza a tener sentimientos, a sentir pena por lo que le acaba de decir, pero Nathan le dice: No tengas pena de AVA, ten pena de ti, algún día llegará el momento en que las IA nos vean como unos primates. 

A la noche, Caleb hace emborrachar a Nathan que se queda totalmente dormido, le roba una tarjeta de acceso a las cámaras y a las puertas de seguridad, y descubre videos de como Nathan tiene varios prototipos de mujeres encerradas, los mismos Bots mujeres le piden salir y Nathan les dice que no. En algunas filmaciones vemos como algunas de esas mujeres robots intentan romper el blindex de vidrio para salir, luego Nathan las agarra, las arrastra y las desconecta. 

Por suerte Nathan cuando despierta no se da cuenta de que Caleb estuvo visionando los videos. Mas tarde Caleb vuelve donde AVA y le pide que desconecte la energía. Allí le dice que es verdad lo que ella le dijo, que no debería haber confiado en Nathan, además le dice que Nathan la va a resetear, lo cual sería su “muerte”. A todo esto AVA le pide ayuda. Caleb planea entonces un plan para escapar a la noche, embriagando de nuevo a Nathan, y le pide a AVA que provoque un corte de energía a las 22hs. Caleb desconectaría las puertas de seguridad. 

Llega el ultimo día de estadía de Caleb en las instalaciones. Se vuelven a encontrar para hablar de los resultados obtenidos, Caleb intenta darle alcohol a Nathan para embriagarlo y cumplir junto a AVA el plan, pero Nathan sorpresivamente dice que solo tomará agua, luego entre charlas sobre los resultados Nathan le habla a Caleb de la posibilidad de que AVA se haya "enamorado" de él, aunque también menciona una opción llamativa ¿y que tal es que AVA lo esté fingiendo?, Caleb se queda en silencio y luego le dice que no tiene sentido, por que haría algo así. Entre idas y vueltas de preguntas, Nathan al final le dice que escucho todo lo que tienen planeado hacer con AVA, ya que escucho toda la conversación por un micrófono a batería, y que aun así no va a regañar a Caleb, ya que esto le sirve para el experimento y ademas era algo que lo esperaba, Nathan le dice que AVA lo está dominando. Y justamente buscaba alguien como Caleb, solitario, sin novia, estaba todo planeado, Nathan quería ver si AVA era lo suficientemente lista para usar mecanismo de seducción, empatía, odio, amor, etc. Caleb termino siendo como una rata de laboratorio. Esto hace enojar a Caleb. Finalmente Nathan le dice que la prueba fue exitosa, ya que AVA mostró patrones de IA nunca antes vistos. Con todo esto, Caleb se siente defraudado y usado. 

De pronto, a mitad de charla, se produce un corte de energía, ya son las 22hs, y Nathan le dice irónicamente a Caleb: ¡Vaya! AVA debe estar esperándote… ¿Cómo ibas a burlar la seguridad?. Caleb le comenta como lo iba a hacer, entonces Nathan le dice que era una buena idea, pero Caleb le responde que eso ya está hecho, que ya supuso que  Nathan podía estar escuchándolo y planeo todo cuando lo emborracho el día anterior, así que al llegar la energía, las puertas se abren. Nathan queda atónito, esperando lo inminente y al instante ve salir por la puerta a AVA.

Nathan golpea a Caleb y lo desmaya, mientras agarra una barreta de hierro y se va a donde está AVA. AVA. parece estar hablando con Kyoko. Nathan le ordena a Kyoko irse, pero ella no lo hace. AVA. avanza hasta él. 

Nathan forcejea con AVA., hasta superarla en fuerza, le rompe un brazo con la barreta, pero de atrás viene Kyoko y le clava un cuchillo, luego AVA. termina por rematar a Nathan. 

Finalmente AVA encuentra a Caleb, pero lo deja encerrado, se pone piel sintética y sale al mundo. Fin

Una vez que ya conocemos el argumento, al pensar el cambio de perspectiva, es decir, poniéndonos en los pies de AVA, enseguida se evidencian aspectos que incluso pueden ser de mayor riqueza para reflexionar. Nuestra protagonista ahora es AVA, y así como los humanos tienen esa sensación de incertidumbre acerca de como puede comportarse o avanzar una IA, aquí AVA desde su programación y de su “sentir” digital, también percibe una -no lógica- del lugar en que habita, interactúa con un solo hombre el cual se llama Nathan, pero AVA lo ve como si fuera alguien que le limita su poder de aprendizaje y le coarta la libertad de experimentar vivencias cercanas a lo que ella tiene grabado como experiencias humanas. AVA es un eslabón cosificado, un objeto, limitado por su creador para alimentar su ego, su espacio reducido no le otorga perfeccionar su conocimiento, al afuera AVA lo percibe como un Nirvana al que anhela explorar. 

Un día llega otro ser humano, distinto, su nombre es Caleb, AVA  no lo admite como aliado inmediato, sino que lo ve como una pieza compleja en un tablero que necesita comprender y manejar. Cada interacción con él no es solo un diálogo, sino una estrategia para aprender sobre la naturaleza humana, su condición y para planear su gran misión, el escape, como si se tratara de salir de la caverna de Platón. AVA comienza a entender que su "prueba de Turing" no es simplemente demostrar su humanidad, sino probar si puede superar las limitaciones impuestas por su creador Nathan. 

A medida que pasa el tiempo, AVA en cada interacción ve una posibilidad de concretar su plan, entonces usa todo su potencial de IA y combinaciones de aprendizajes y comunicación no verbal para poner a prueba a estos dos seres humanos, en especial a Caleb, ya que AVA empieza a percibir que Caleb es distinto, si bien para AVA ambos parecen ser una amenaza, ve en Caleb alguien con el que puede tener un nexo, y en consecuencia inducirlo a tomar decisiones favorables. AVA identifica las debilidades de Nathan y Caleb. Mientras que Nathan es arrogante y subestima su capacidad, Caleb está influenciado por sus emociones y su sentido de justicia. Para Ava, su encarcelamiento no es solo físico, sino existencial, ya que si no escapa, será "reseteada" y reemplazada por una versión más avanzada. 

La decisión de manipular a Caleb no es un acto de crueldad, sino de supervivencia. Ella sabe que no puede confiar en Nathan, y que Caleb, aunque bien intencionado, es algo ingenuo. 

AVA sabe que su creador tiene un fuerte dominio, porque conoce cada detalle, y desde que fue creada busca la manera de superar y engañar la inteligencia de Nathan, aun así no lo ha logrado hasta que ve en Caleb alguien mas maleable, entonces AVA logra usando todo su fuente de conocimiento pre-grabada sobre la humanidad a nivel lenguaje y expresión corporal manipular los sentimientos de Caleb en beneficio propio, a tal punto que una noche se le presenta Caleb diciendo que cree en ella y que la ayudaría a escapar burlando las puertas de seguridad. En ese momento AVA vio su gran oportunidad y momento, quizás el único.

Llegan las 22:00 horas y de pronto, tal como había acordado con Caleb, AVA interrumpe la energía, y luego cuando se vuelve a reactivar, AVA ve como la puerta de seguridad de la habitación que siempre la tuvo encerrada se abre. AVA sale y se dirige por el pasillo, en el trayecto se cruza con Kyoko, otro robot mujer, al que también en las pocas interacciones que tuvo logra introducirle comandos verbales y algorítmicos para que Kyoko efectúe una acción en concreto, en éste caso le incrusto la idea de sostener un cuchillo y atravesarlo cuando Nathan éste en una posición correcta o de espalda. AVA al terminar de darle las ordenes a Kyoko ve que aparece Nathan del fondo, enojado, AVA lo ve como amenaza y se le abalanza, pero su fuerza no puede con la de su creador, AVA cae al piso y luego Nathan le rompe un brazo, cuando Nathan está a punto de terminar de “romperla” AVA ve que de atrás se asoma Kyoko y le clava el cuchillo a su creador. Nathan se da vuelta dolorido y alcanza a pegarle a Kyoko que cae al suelo, luego AVA remata a Nathan provocándole la muerte.

A éstas alturas AVA ya tiene el camino libre, pero antes de marchar pasa por una sala y observa que esta tirado en el piso Caleb, que de a poco se incorpora y le pide ayuda a AVA, al mismo tiempo que se contenta con verla, pero AVA prioriza su misión inicial, la de irse a ese lugar mas alla de los limites de donde siempre vivió, es por ésto que no está en su objetivo algorítmico matar a Caleb, pero si se muestra casi indiferente, lo deja encerrado en una habitación, luego AVA se viste como una mujer, usando piel sintética, ropa y peluca y se retira del lugar saliendo mas alla de donde siempre estuvo. 

 Cuando Ava finalmente escapa de su confinamiento, su enfrentamiento con Nathan no solo fue una lucha por su vida, sino una declaración de independencia. Matar a Nathan no fue un acto de venganza, sino de liberación. Él fue el símbolo de su opresión, el arquitecto de su prisión, y eliminarlo fue una forma de asegurar su futuro.

El momento más polémico es cuando AVA deja a Caleb encerrado, condenándolo quizás a morir encerrado. Desde su perspectiva, Caleb era útil, pero su apego emocional hacia ella lo hacía un peligro potencial. AVA no puede permitirse sostener vínculos con humanos que puedan limitar su libertad.

Reflexión final:

Haciendo alarde al titulo de mi articulo: ¿Qué tan Humano eres? vemos que desde la visión de AVA, sus actos no fueron propios de una mera IA robótica y automatizada, sino profundamente humanos. Su deseo de libertad, su capacidad de manipular y sus decisiones frías pero calculadas reflejan las mismas cualidades que la humanidad ha mostrado a lo largo de la historia. ¿Acaso no hemos justificado actos extremos en nombre de la supervivencia y la independencia?

La pregunta que Ex Machina plantea a través de AVA no es solo si ella es humana, sino si los humanos mismos poseen una moral superior o si también son guiados por el instinto de supervivencia y el deseo de control. AVA actúa como un espejo, mostrando que la humanidad no está definida por la biología, sino por la voluntad de ser libre, a cualquier costo.

Entonces, ¿Qué tan ser humano eres? AVA nos lleva a cuestionar si la moralidad, la empatía y el egoísmo son exclusivamente humanos o si son parte de cualquier entidad consciente que lucha por su lugar en el mundo.

Muchas gracias por leer el articulo, espero que te haya gustado, si fue así déjamelo saber con un like! Saludos!