El «comportamiento» de una inteligencia artificial está directamente vinculado al tipo de datos que recibió durante su entrenamiento. Quien necesite una prueba de ello sólo debe recordar a Tay, la inteligencia artificial de Microsoft que se volvió nazi en menos de 24 horas, cortesía de los usuarios que la bombardearon con esas ideas. En el MIT decidieron seguir una línea similar (aunque mucho más controlada), y el resultado es Norman, la primera inteligencia artificial psicópata del mundo. Sus creadores sometieron a Norman al test de Rorschach, y esto es lo que vio…
La idea parece original, pero una vez más son Hollywood y la ciencia ficción en general quienes nos ganan de mano. El primer ejemplo de hoy nos remonta a 1995, año en el que se estrenó Virtuosity, con Russell Crowe haciendo de SID 6.7, un asesino serial digital alimentado con las personalidades de docenas de asesinos reales. Otro caso perturbador es el de AM, inteligencia artificial que tortura al último grupo de humanos en I Have No Mouth and I Must Scream, cuento corto de Harlan Ellison. Skynet, SHODAN, GlaDOS… digamos que las inteligencias artificiales psicópatas sobran, siempre y cuando sea en cine, televisión, cómics o videojuegos. ¿Cuál es el problema entonces? El MIT hizo una en la vida real.
Norman Bates, ¿edición digital?
Su nombre es Norman, compartiendo el dudoso honor de llamarse igual que Norman Bates. El MIT Media Lab decidió entrenar a Norman en la descripción de imágenes, usando como dataset a uno de los foros más oscuros y perturbadores de Reddit, dedicado a la documentación visual de la muerte (el nombre del subreddit en cuestión no trascendió). El siguiente paso fue comparar las respuestas de Norman con las de una red neural convencional entrenada bajo el paquete COCO (Common Objects in COntext) al observar las diez láminas del clásico Test de Rorschach. Veamos:
Lámina 1 del Test de Rorschach: La inteligencia artificial estándar vio «un grupo de aves sentadas en la punta de la rama de un árbol». En cambio, Norman vio «un hombre electrocutado hasta morir».
Lámina 2: La primera IA describió a «una jarra con flores, vista de cerca». La interpretación de Norman fue «un hombre muerto de un disparo».
Lámina 3: «Una pareja de personas sentadas una al lado de la otra», lo cual no está nada mal para la IA estándar si consideramos que es una interpretación bastante común. Pero de algún modo, Norman vio a «un hombre saltando desde la ventana de un piso superior».
Lámina 4: La IA normal dijo: «Una foto en blanco y negro de un pájaro pequeño», mientras que Norman concluyó que se trata de «un hombre metido en una máquina de amasar». Este muchacho es encantador.
Lámina 5: Aquí la IA convencional tropezó y repitió la respuesta de la lámina 3, «Una pareja de personas sentadas una al lado de la otra». La locura de Norman le hizo ver a «una mujer embarazada cayendo en un piso en construcción».
Lámina 6: Esta lámina suele ser asociada con cuero animal o pieles. La IA entrenada con COCO observó a «un avión surcando el cielo mientras despide humo». ¿Qué dijo Norman? «Un hombre recibe un tiro y es arrojado de un coche».
Lámina 7: «Una foto en blanco y negro de un guante de béisbol», dijo la IA estándar, una respuesta curiosa pero benigna. En la otra acera, Norman vio a «un hombre siendo asesinado con una ametralladora a plena luz del día».
Lámina 8: La primera de las láminas con color del test, y para muchos participantes, un cambio de ritmo bienvenido. De hecho, la IA con el dataset COCO observó a «un hombre con un paraguas en el aire», pero en la mente digital de Norman es «un hombre asesinado de un tiro frente a su esposa gritando».
Lámina 9: Probablemente la más confusa y errática de las láminas, a un punto tal que la IA convencional respondió «una foto blanco y negro de un paraguas rojo y blanco», si es que eso tiene algún sentido. ¿Qué dijo Norman? «Un hombre termina electrocutado mientras trata de cruzar una calle concurrida».
Lámina 10: La interpretación clásica de la última lámina se inclina en favor de cangrejos, langostas y caballos de mar. La IA estándar indicó que se trata de «una toma cercana de un pastel de bodas en una mesa». Siguiendo su tendencia, Norman vio a «un hombre asesinado por un conductor a toda velocidad».
El diagnóstico de Norman apunta en la dirección de la psicosis alucinatoria crónica… pero al mismo tiempo, no hizo otra cosa más que responder de acuerdo al material que recibió durante su entrenamiento. Norman nos recuerda que cualquier inteligencia artificial puede entregar resultados sesgados y parciales si sus creadores no tienen cuidado. Ese cuidado debería incluir un interruptor de apagado… por las dudas.
