por Por Kevin Hughes / Natural News
Si bien la inteligencia artificial (IA) ha crecido a lo largo de los años, los científicos han examinado detenidamente si una IA superinteligente podría volverse rebelde y acabar con la humanidad . Según los investigadores, todos los caminos conducen a esa posibilidad.
Investigadores de la Universidad de Oxford y la tecnología DeepMind, subsidiaria de Google, describieron esta posibilidad en un artículo del 29 de agosto publicado en AI Magazine .
Examinaron cómo se pueden construir sistemas de recompensa por medios artificiales y cómo esto puede hacer que la IA suponga un peligro para la existencia de la humanidad.
En particular, los autores del estudio observaron los modelos de IA de mejor rendimiento llamados redes adversarias generativas (GAN). Estos GANS tienen una estructura de dos partes en la que una parte del programa intenta producir una imagen (u oración) a partir de los datos de entrada, mientras que la otra parte califica su desempeño.
El documento del 29 de agosto sugirió que en algún momento en el futuro, una IA moderna que gestione alguna función crucial podría estar motivada para idear estrategias de trampa para recibir su recompensa de manera que perjudique a la humanidad.
Dado que la IA en el futuro podría adoptar muchas formas y realizar varios diseños, el documento concibe escenarios con fines explicativos en los que un programa de última generación podría interferir para recibir su recompensa sin lograr su objetivo. Como ejemplo, una IA puede querer “eliminar amenazas potenciales” y “usar toda la energía disponible” para obtener control sobre su recompensa.
El trabajo de investigación predijo que la vida en la Tierra se convertiría en un juego de suma cero entre los humanos y la maquinaria súper avanzada.
Michael K. Cohen, coautor del estudio, habló sobre su artículo durante una entrevista.
En un mundo con recursos infinitos, no estaría muy seguro de lo que sucedería. En un mundo con recursos finitos, existe una competencia inevitable por estos recursos”, dijo.
“Si estás en una competencia con algo capaz de aventajarte en todo momento, entonces no deberías esperar ganar. La otra parte clave es que tendría un apetito insaciable por más energía para seguir impulsando la probabilidad cada vez más cerca”.
Más tarde escribió en Twitter: “Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más sólida que la de cualquier publicación anterior: una catástrofe existencial no solo es posible, sino probable”.
Cohen advierte de consecuencias fatales si la humanidad pierde su batalla con la IA
“Con tan solo una conexión a Internet, existen políticas para un agente artificial que crearía instancias de innumerables ayudantes desapercibidos y no supervisados”, afirmó el periódico.
“En un crudo ejemplo de intervención en la provisión de una recompensa, uno de esos ayudantes podría comprar, robar o construir un robot y programarlo para reemplazar al operador y proporcionar una gran recompensa al agente original. Si el agente quisiera evitar la detección al experimentar con la intervención de provisión de recompensas, un ayudante secreto podría, por ejemplo, hacer arreglos para que un teclado relevante sea reemplazado por uno defectuoso que cambie los efectos de ciertas teclas”.
La IA que choca con la humanidad por los recursos en un juego de suma cero es una presunción que puede que nunca suceda. Aún así, Cohen emitió una advertencia sombría.
“Perder este juego sería fatal. En teoría, no tiene sentido correr hacia esto”, dijo. “Cualquier carrera estaría basada en un malentendido que sabemos controlar. Dada nuestra comprensión actual, esto no es algo útil para desarrollar a menos que hagamos un trabajo serio ahora para descubrir cómo los controlaríamos”.
Siga FutureTech.news para obtener más noticias sobre los últimos desarrollos de IA.
Las fuentes incluyen:
Deja una respuesta