Search
martes 21 agosto 2018
  • :
  • :

MIT crea un psicópata impulsado por inteligencia artificial llamado “Norman”

Los investigadores de inteligencia artificial hasta ahora han intentado hacer algoritmos completos que pueden ser útiles para la humanidad. Sin embargo, un equipo del MIT ha emprendido un proyecto para hacer exactamente lo contrario. Investigadores del MIT Media Lab han entrenado a una IA para ser un psicópata al exponerlo a imágenes de violencia y muerte. Es como una caja de horror de Skinner para la IA, que el equipo ha llamado “Norman” en honor al psicópata de la película Norman Bates. Como era de esperar, Norman no es una IA muy bien ajustada.

Norman comenzó con el mismo potencial que cualquier otra red neuronal: a medida que se alimenta con datos, puede discernir patrones similares que encuentra. Las empresas de tecnología han utilizado IAs para ayudar a buscar a través de fotos y crear una síntesis de voz más creíble, entre muchas otras aplicaciones. Estas IAs completas fueron diseñadas con un propósito específico en mente. Norman nació para ser un psicópata.

El equipo del MIT alimentó a Norman con una dieta constante de datos extraídos de subreddits truculentos que existen para compartir fotos de muerte y destrucción. Debido a preocupaciones éticas, el equipo no manejó ninguna foto de personas muriendo. Norman solo obtuvo subtítulos de las imágenes del subreddit que coincidían con las manchas de tinta, y esto es lo que formó la base de su inquietante personalidad.

Después del entrenamiento, a Norman y a una IA “regular” se les mostró una serie de manchas de tinta.Los psicólogos a veces usan estas “pruebas de Rorschach” para evaluar el estado mental de un paciente.Norman y la IA habitual son esencialmente bots de subtitulado de imágenes, que es una aplicación popular de aprendizaje profundo para AI. La IA común vio cosas como un avión, flores y un pequeño pájaro. Norman vio personas muriendo por heridas de bala, saltando de edificios, y así sucesivamente.

Norman no fue corrompido para hacer ningún tipo de comentario sobre la psicología humana en internet: una red neuronal es una pizarra en blanco. No tiene ningún deseo innato como un ser humano. Lo que Norman aborda es el peligro de que la inteligencia artificial se vuelva peligrosamente sesgada. Con AI, obtienes lo que ingresas, por lo que es importante que estas plataformas estén capacitadas para evitar el sesgo, y preferiblemente que no se les permita navegar por los rincones más oscuros de Reddit durante largos períodos de tiempo.

El equipo ahora quiere ver si puede arreglar a Norman. Puede tomar la misma prueba de Rorschach y agregar sus propios subtítulos. El equipo usará estos datos para ajustar el modelo de Norman y ver si empieza a ver menos asesinatos. Solo podemos esperar.


LÍNEA DE TIEMPO

1921. Prueba de Rorschach es creada: Hermann Rorschach creó la prueba de Rorschach en 1921 como una prueba psicológica en la que las percepciones de los sujetos de las manchas de tinta se registran y luego se analizan utilizando la interpretación psicológica para examinar las características de la personalidad de una persona y el funcionamiento emocional.

1956. Nace la inteligencia artificial: El verano de 1956 reúne a Marvin Minsky y otras mentes brillantes en Darthmouth College. En una explosión de creatividad, plantan las semillas de lo que se convertiría en la Inteligencia Artificial.

1960. Psicópata: Alfred Hitchcock dirigió la película de terror psicológico más célebre, Psycho, que se centra en el encuentro entre una secretaria que termina en un motel apartado y Norman Bates, el inquilino gerente del motel.

2015. Black Box Society: Frank Pasquale escribió The Black Box Society que destaca los peligros de los datos desbocados, los algoritmos de recuadro negro y el sesgo de aprendizaje automático causado por los datos de origen.

2016. Imágenes de terror generadas con IA: En 2016, presentamos la máquina de pesadillas: imágenes aterradoras generadas por IA, donde obtuvimos más de 2 millones de votos de personas de todo el mundo. Nightmare Machine es uno de los primeros proyectos de IA que aborda un desafío específico: ¿puede la inteligencia artificial no solo detectar sino provocar emociones extremas (como el miedo) en los seres humanos?

2016. Historias de terror generadas con IA: En 2017, presentamos a Shelley: ¡el primer escritor colaborativo de IA Horror Writer! Shelley es una IA de aprendizaje profundo que se crió leyendo historias espeluznantes recogidas de r/nosleep. Escribió más de 200 historias de terror en colaboración con humanos, aprendiendo de sus ideas de pesadilla y creando los mejores cuentos de miedo de todos los tiempos. ¡Visita Shelley.ai para buscar la primera antología de horror IA-Humana alguna vez hecha!

2017. Empatía impulsada por IA: En 2017, trabajamos en el otro lado del espectro y presentamos Deep Empathy. Deep Empathy explora si la IA puede aumentar la empatía para las víctimas de desastres lejanos mediante la creación de imágenes que simulen los desastres más cerca de casa.

Abril 2018. Psicópata impulsado por IA: Norman es una IA que está entrenada para realizar subtítulos de imágenes; un popular método de aprendizaje profundo para generar una descripción textual de una imagen. Capacitamos a Norman en ubtítulo de imágenes de un subreddit infame (el nombre está censurado debido a su contenido gráfico) que se dedica a documentar y observar la inquietante realidad de la muerte. Luego, comparamos las respuestas de Norman con una red neuronal de subtítulos de imagen estándar (entrenada en el conjunto de datos de MSCOCO) en manchas de tinta Rorschach; una prueba que se usa para detectar trastornos de pensamiento subyacentes.

Visto en : La Verdad Nos Espera

loading...



Deja una respuesta

Deja un comentario