Conoce A 'Norman', La Ia Más Oscura Y Perturbada Que El Mundo Ha Visto

{h1}

Un equipo de programadores informáticos entrenó una red neuronal para ser un "psicópata". ¿qué podría salir mal?

Una red neuronal llamada "Norman" es inquietantemente diferente de otros tipos de inteligencia artificial (IA).

Ubicado en el MIT Media Lab, un laboratorio de investigación que investiga la IA y el aprendizaje automático, el cerebro de la computadora de Norman fue presuntamente deformado por la exposición a "los rincones más oscuros de Reddit" durante su entrenamiento inicial, dejando a la IA con un "trastorno alucinatorio crónico", según Descripción publicada el 1 de abril (sí, April Fools 'Day) en el sitio web del proyecto.

Los representantes del MIT Media Lab describieron la presencia de "algo fundamentalmente malo en la arquitectura de Norman que hace imposible su reentrenamiento", y agregó que ni siquiera la exposición a hologramas de lindos gatitos fue suficiente para revertir el daño que sufrió su cerebro en las entrañas de Reddit. [5 Usos intrigantes para la Inteligencia Artificial (que no son Robots Asesinos)]

Esta historia extravagante es claramente una broma, pero el propio Norman es real. La IA ha aprendido a responder con escenarios violentos y espantosos cuando se presenta con manchas de tinta; Sus respuestas sugieren que su "mente" experimenta un desorden psicológico.

Según el Scientific American, al doblar a Norman como una "psicópata IA", sus creadores están jugando rápido y suelto con la definición clínica de la condición psiquiátrica, que describe una combinación de rasgos que pueden incluir la falta de empatía o culpa junto con el comportamiento criminal o impulsivo.

Norman demuestra su anormalidad cuando se le presentan imágenes de manchas de tinta, un tipo de herramienta psicoanalítica conocida como prueba de Rorschach. Los psicólogos pueden obtener pistas sobre la salud mental subyacente de las personas basándose en las descripciones de lo que ven cuando miran estas manchas de tinta.

Cuando los representantes del MIT Media Lab probaron otras redes neuronales con manchas de tinta de Rorschach, las descripciones eran banales y benignas, como "un avión volando por el aire con humo" y "una foto en blanco y negro de un pájaro pequeño" Según el sitio web.

Sin embargo, las respuestas de Norman a las mismas manchas de tinta tomaron un giro más oscuro, con la IA "psicopática" que describe los patrones como "el hombre recibe un disparo del auto" y "el hombre es arrastrado hacia la máquina de pasta".

De acuerdo con la broma, la IA se encuentra actualmente en una sala de servidores aislada en un sótano, con medidas de seguridad para proteger a otras computadoras de los seres humanos e Internet de la contaminación o daños a través del contacto con Norman. También están presentes en la sala armas tales como sopletes, sierras y martillos, para desmontar físicamente a Norman, "para ser utilizadas si todas las cajas de seguridad digitales y electrónicas funcionan mal", dijeron representantes del MIT Media Lab.

Las notas adicionales de April Fools sugieren que Norman representa un peligro único y que cuatro de cada 10 experimentadores que interactuaron con la red neuronal sufrieron un "daño psicológico permanente". (Hasta la fecha, no hay evidencia de que la interacción con la IA pueda ser perjudicial para los humanos de ninguna manera).

Las redes neuronales son interfaces informáticas que procesan información de manera similar a como lo hace un cerebro humano. Gracias a las redes neuronales, la IA puede "aprender" a realizar acciones independientes, como subtitular fotos, mediante el análisis de datos que demuestran cómo se realiza normalmente esta tarea. Cuantos más datos reciba, más información tendrá para informar sus propias elecciones y más probable será que sus acciones sigan un patrón predecible.

Por ejemplo, una red neuronal conocida como Nightmare Machine, construida por el mismo grupo en el MIT, fue entrenada para reconocer imágenes que daban miedo, mediante el análisis de elementos visuales que asustaban a las personas. Luego tomó esa información y la puso en uso a través de la manipulación de fotografías digitales, transformando imágenes banales en temibles y pesadillas.

Otra red neuronal fue entrenada de manera similar para generar historias de horror. Nombrado "Shelley" (por la autora de "Frankenstein" Mary Wollstonecraft Shelley), la IA consumió más de 140,000 historias de horror y aprendió a generar sus propias historias terroríficas originales.

Y luego está Norman, que observa una mancha de tinta colorida que una IA estándar describió como "un primer plano de un pastel de bodas en una mesa" y ve a un "hombre muerto al acelerar el conductor".

Pero puede haber esperanza para Norman. A los visitantes del sitio web se les ofrece la oportunidad de ayudar a la IA mediante la participación en una encuesta que recopila sus respuestas a 10 inkblots. Sus representantes podrían ayudar a que la red neuronal descarriada se arregle a sí misma, sugirieron los representantes del MIT Media Lab en el sitio web.

Artículo original sobre Ciencia viva.


Suplemento De Vídeo: Once Upon a Time Comic Con 2015 Panel - Lana Parrilla, Ginnifer Goodwin, Jennifer Morrison, Season 5.




ES.WordsSideKick.com
Reservados Todos Los Derechos!
La Reproducción De Cualquier Permitió Sólo Prostanovkoy Enlace Activo Al Sitio ES.WordsSideKick.com

© 2005–2019 ES.WordsSideKick.com