M3gan

La ciencia y la tecnología están al servicio de la humanidad, o al menos deberían, en el sentido de que deben funcionar como herramienta y apoyo para mejorar su vida, desarrollo, adaptación y evolución. Si el objetivo es facilitar las cosas para las personas esto no significa hacerlas inútiles, ignorantes o incapaces, sino abrir camino para que el individuo, y por ende la sociedad, se supere y mejore.

El problema es cuando los inventos se vuelven más que útiles, indispensables, cuando la tecnología comienza a inmiscuirse y regir todo aspecto de la vida humana  y en general todo aspecto de la vida en el planeta, o cuando las máquinas terminan con el control de todo, incluso más que la gente, al grado que no hay información que no puedan recopilar, acción que no puedan ejercer o poder que no puedan abusar.

Estas son algunas de las reflexiones presentes en la película Megan (EUA, 2022), escrita por Akela Cooper, dirigida por Gerard Johnstone y protagonizada por Allison Williams y Violet McGraw. La historia sigue a Gemma, una experta en robótica que trabaja en una empresa de tecnología desarrollando juguetes, quien crea a M3gan (Modelo 3 Generativo de Android), comúnmente llamada ‘Megan’, un androide o robot humanoide diseñado con una inteligencia artificial codificada, pensada para convertirse en compañero, amigo y auxiliar en la crianza de los niños.

El invento aún en etapa experimental no convence a su jefe David, más interesado en lanzar una nueva versión del producto estrella de la compañía, un muñeco de peluche mecanizado que interactúa con los usuarios, es decir, los niños a los que se los venden, a través de una aplicación, que en probar con un prototipo que parece demasiado complejo para su público meta. David quiere algo vistoso y fácil de vender que mantenga enganchados a los clientes por su funcionalidad y simpleza, algo a lo que se le pueda sacar la mayor ganancia posible aumentando el precio de venta pero reduciendo los costos de producción, parámetros que Megan hasta el momento no cumple. 

No obstante todo cambia para Gemma cuando su sobrina de 8 años, Cady, se muda a vivir con ella luego de la muerte de sus padres en un accidente automovilístico. Insegura de cómo interactuar con alguien a quien no conoce ni entiende, no sólo por la distancia a pesar de ser familia, también porque Gemma no sabe cómo ayudar a una niña que requiere empatía, comprensión y guía, su reacción es dar una solución de la única forma que conoce: mediante la tecnología.

Entonces se anima a terminar su prototipo y probar el invento con la propia Cady, a quien invita a interactuar con esta muñeca de tamaño real programada para comportarse como una niña de verdad, en su lenguaje, acciones, relaciones y comunicación, pero también como un adulto, cuidándola, supervisándola y, en esencia, del mismo modo educándola. No obstante Megan no es ni una niña ni un adulto; no es un humano sino un androide, que no puede sopesar objetivamente lo que Cady necesita y lo que no, ya que no hace más que seguir las instrucciones y programación de un algoritmo prexistente, que nutre recopilando información externa, con el fin de adaptarse a las particularidades de su ‘usuaria principal’, Cady. 

En la utopía que Gemma imagina, la idea es que Megan supervise la crianza de la niña y al mismo tiempo sea un juguete con el que ella se distraiga, entretenga, comunique y desahogue; la falla es querer delegar a la máquina una función afectiva humana. Una muñeca, un juguete, un androide, un robot o una inteligencia artificial, Megan es todo esto, sin embargo, no es sustituto de una madre, un amigo, ni un modelo a seguir o un apoyo emocional, porque no puede responder espontánea y racionalmente, por más que sus directrices intenten hacerlo, especialmente porque carece de parámetros concretos que limiten y definan sus funciones u objetivo principal: salvaguardar el bienestar de Cady.

Megan no entiende conceptos abiertos a la interpretación y  ética humana, incluyendo valores sobre vida, muerte, protección, seguridad, apego, solidaridad, empatía o cariño. Así que Megan no puede realmente entender lo que Cady requiere para desarrollarse en forma personal, emocional, intelectual y social. Por tanto no podrá ayudarle a madurar. Cady está viviendo una realidad difícil pero que tiene que atravesar como parte de su desarrollo personal; tiene que vivir el duelo, adaptarse al cambio, decidir conforme a las nuevas circunstancias y aprender hasta aceptar su presente; desde el rol de Gemma como su tutora y cuidadora hasta las reglas del hogar que su tía tiene en su propia casa, entre muchas otras cosas, incluyendo su identidad, rol social y familiar o metas a corto, mediano y largo plazo.

Sin embargo, en el momento en que Gemma delega en Megan la responsabilidad de criar a Cady, el efecto es limitar su desarrollo en lugar de apoyarlo, de manera que la niña comienza a valorar, decidir y responder bajo el único punto a la mano que tiene como referencia: Megan; en consecuencia,  eventualmente deja de percibirla como un robot y comienza a verla como una amiga, ese ser que la escucha, la protege, le da explicaciones y la anima.

“Cuando un niño pierde un padre, crea apegos con la siguiente persona que llega a su vida. Esa persona le dará amor y apoyo y funcionará como un modelo de conducta, que en una situación ordinaria serías tú. Pero creaste un juguete tan real que es posible que Cady no la vea como un juguete, sino como su cuidador primario”, le explica una trabajadora social a Gemma, durante su evaluación de la interacción y adaptación de Cady con su tía. “No veo cuál es la meta final aquí, si haces un juguete que sea imposible de dejar, ¿cómo esperas que un niño crezca? No importa lo increíble que sea, y es algo increíble, estás creando conexiones emocionales con ella que son muy difíciles de desenredar”, añade.

Así que, si la única interacción significativa de Cady es con un robot, una máquina, cómo puede entender las emociones que siente, cómo puede desarrollarse como persona y adaptarse a socializar con otros humanos. La máquina no está capacitada para criarla ni educarla precisamente porque es una máquina; emula e imita emociones pero no las siente y define conceptos como vida o muerte a partir de una base de datos informática, pero es incapaz de dimensionar más allá de parámetros medibles y cuantificables, concretos y estadísticos. Define, por ejemplo, muerte, como ausencia de vida y actúa en consecuencia de este absoluto, ignorando otras características, como que muerte también puede referirse y definirse como existencia, trascendencia, ciclo de la naturaleza, pensamiento, renacimiento o muchas otras cosas más, según contexto, interpretación y entendimiento humano.

Gemma programa a Megan como un auxiliar, un mediador para ayudar en la interacción padre e hijo o, en su caso, tutor e infante, a partir de su propia incapacidad para resolver cómo cuidar y entender a Cady. Este es el principal problema social aquí, un padre o tutor que no sabe cómo interactuar y relacionarse con sus hijos, niños o adolescentes, e incluso con cualquier menor de edad. La respuesta, errónea, es recurrir a la tecnología, no como apoyo sino para eludir su responsabilidad. Lo cual es reflejo de una constante en el mundo actual: dependencia tecnológica, desplazamiento del humano por la máquina sin medir consecuencias, confianza excesiva en el algoritmo y la inteligencia artificial. Automatización, computarización y digitalización son hechos crecientes en procesos vitales para la supervivencia y evolución humana. El efecto, aún no suficientemente valorado, es el deterioro de las capacidades cognitivas del ser humano.

Esto resulta en un mundo en el que las dinámicas de todo tipo están saturadas de ruido externo, en donde el orden laboral explota tanto al trabajador que el individuo ya sólo tiene tiempo para estar ocupado en su profesión y tiene que dejar en segundo plano a su familia, sus relaciones personales e incluso a sí mismo; un presente en el que la sociedad está tan desconectada, aislada o esclavizada, que a veces por desidia y a veces porque no encuentra otra opción, cede el cuidado y transformación de su propia especie a las máquinas, desatendiendo el impacto que significa ver, vivir, interactuar, crecer y razonar la existencia y posibilidad de trascender de todo ser vivo a partir del consumismo y la enajenación.

Los padres de Cady intentaban limitar el tiempo diario que su hija pasaba frente a las pantallas, fueran videojuegos, aplicaciones o demás contenido digital de cualquier tipo, atentos a la importancia de que Cady viviera y conviviera en el presente, no a través de una tecnología impersonal de por medio. Gemma no repara en esto, no toma consciencia de las consecuencias negativas que ello puede tener en la vida de su sobrina, o de cualquier niño o cualquier persona.

Quizá la ficción dentro del género de terror en que se traza el relato se inclina hacia la exageración, con un robot que se sale de control por el error humano de no definir claramente su programación y función, ya que la misión de Megan es cuidar de Cady bajo cualquier circunstancia y esto significa eliminar cualquier obstáculo, incluso si eso se traduce en matar, un análisis no humano sino mecánico. Pero más allá de la fantasía narrativa (cuyos argumentos sobre los problemas de la inteligencia artificial aplicada equivocadamente a la cotidianidad de la vida hasta alterar las relaciones humanas, son sin duda fundados), la película también habla del peligro de propiciar una sumisión pasiva ante la presencia controladora y vigilante de la tecnológica, específicamente entre niños y adolescentes viviendo a través de aparatos electrónicos, perdiendo poco a poco contacto con otros y hasta con su propia humanidad.

Se trata de una ciencia carente de ética, de un invento materializado a raíz de la ambición del hombre, a quien no importa tanto qué necesidad esté cubriendo su creación sino cómo aprovecha y mejora el uso de sus recursos. La tecnología y al mecanización buscan respuestas inmediatas, no forzosamente las mejores soluciones. El androide no le da valor a la vida humana porque no tiene consciencia de ella, ningún invento lo hará, ninguna tecnología, máquina, inteligencia artificial o similar. Megan, en tanto máquina, responde a directrices automáticamente, como cualquier robot haría. Si está programada para optimizar sus funciones, esto suena más a un arma que a un juguete inofensivo, llevando a cuestionar si el principal problema no es Megan, el androide en sí, sino el objetivo y fin para el que se creó.

¿Qué es más importante para el individuo, la conexión emocional con sus semejantes o la conexión afectiva con sus propiedades? Usualmente ambas van relacionadas, cubren necesidades distintas, sin embargo, en la era digital esto ya no es totalmente certero. La película pone en perspectiva la relación dependiente del humano con sus inventos, con sus creaciones científicas aplicadas al desarrollo tecnológico, específicamente la inteligencia artificial. Es la enajenación derivada de considerar a los objetos como seres que tuvieran vida propia y no productos de la propia actividad del humano. Pero más importante aún, la cinta señala el peligro de exponer a los niños a tan temprana edad a la tecnología; quizá la interacción, uso y contacto constante los vuelve más hábiles respecto a ella (lo cual no es forzosamente algo ‘bueno’, ya que comienzan a priorizarlo por sobre el contacto humano), pero esto también los empuja a ser más susceptibles de volverse presa de sus limitantes, a ser incapaces de pensar y hacer por sí mismos.

Si bien la narrativa plantea la preocupación real que es construir un invento que con el tiempo supera a su creador, incapaz de ver que le está otorgando funciones de las que pronto no tendrá control, también lleva a reflexionar sobre otro escenario implícito: delegar todo a las máquinas y al algoritmo, mecanizando, automatizando o digitalizando procesos que tienen que ver con relaciones sociales afectivas y con tareas vinculadas a la sobrevivencia de la especie humana, desde la producción  y distribución de alimentos, higiene y seguridad social, educación, cuidado ambiental, sistemas de comunicación y gobierno, hasta búsqueda de amor, distracción y esparcimiento.

En la película, Megan tiene acceso a todo, así que es capaz de tomar el control absoluto sobre las personas a las que debería servir. Esto porque todo aparato electrónico está conectado a la misma red que ella, lo que no la hace muy diferente a un asistente inteligente cualquiera, como aquellos que se usan comúnmente en el hogar; auxiliares, asistentes que, sin embargo, son invasores de la privacidad, observadores atentos que recolectan toda información posible del usuario: qué hace y cuándo lo hace; que consulta, busca e investiga o toda relación social y actividad que realicen los clientes o consumidores. 

Así como muchos padres, Gemma tiene que recurrir a la tecnología para cumplir con todas las responsabilidades y expectativas que se esperan de ella. Su empleo demanda atención 24 horas al día los 7 días de la semana si quiere mantener su productividad laboral. Si no hubiera una Megan habría un objeto similar, una pantalla digital, un videojuego o un juguete virtual. Así que la gran inquietud actual ya no es la dependencia de los niños en la tecnología, o de los padres y personas en general también en ella, sino la forma como se incentiva, promueve, explota y mercantilizan las innovaciones tecnológicas, al grado que parece ya una tendencia imposible de contrarrestar.

Una muñeca cuyos algoritmos y programación la vuelven asesina es, sin duda, un relato de terror con su buen grado de ficción y exageración, pero un invento tecnológico que se sale de control porque se emplea para maximizar la ganancia y para mejorar los mecanismos de control y vigilancia, no lo es, al contrario, es una realidad de la que somos testigos.

Aplicado a la informática y la tecnología digital, están, como ejemplo, hackeos masivos para obtener información confidencial, filtración de información privada o secreta, aplicaciones intrusivas, video-vigilancia realizada sin permiso del usuario, robo de identidad para realizar fraudes, desplazamiento laboral en favor de la inteligencia artificial y otras muchas realidades semejantes.

¿Por qué entonces seguimos depositando tanto poder y control en el algoritmo, la mecanización y los aparatos digitales? ¿Por qué se nos hace creer que es buena idea que todo esté interconectado todo el tiempo? Es claro que poco a poco ya no habrá nada que podamos hacer sin la tecnología de por medio, nos volveremos incapaces de pensar y hacer, subsumidos en la enajenación estructural que el sistema reproduce. Esto no es nada positivo para la humanidad, salvo para el sector propietario de los grandes medios de producción y del saber científico ahí generado, con un sector minoritario de la población que detentará el saber acumulado a lo largo de la historia humana. Parece ser tiempo de abandonar las pantallas para imaginar e impulsar los mecanismos que permitan modificar radicalmente el estado actual de las cosas.

Ficha técnica: Megan - M3GAN