Los peligros reales de la toma de control de los chatbots

Por James Corbett

Visto en: La Verdad Nos Espera

Es oficial: ¡el chatapocalipsis está sobre nosotros!

Pregúntele a nuestros <sarc>amigos</sarc> en The New York Times:

«Una conversación con el chatbot de Bing me dejó profundamente inquieto«

O consulte a los <sarc>expertos</sarc> en digitaltrends:

«‘Quiero ser humano’. Mi charla intensa y desconcertante con el chatbot de IA de Microsoft«

O escuche a esos <haha>wackadoodles</haha> en NewWorldNextWeek discutiendo la última historia de miedo de chatbot:

«Bing AI Chatbot de Microsoft comienza a amenazar a las personas«

«¡Está bien, está bien, lo entendemos, James! La nueva generación de chatbots que se han desatado en el mundo son extraños, espeluznantes y extrañamente agresivos. Así que todos vamos a morir en una catástrofe robótica ardiente, ¿verdad?»

Tal vez no. Pero antes de que respires aliviado y vuelvas a lo que sea que estés haciendo, déjame asegurarte que esta toma de control de chatbot realmente es una mala noticia, pero probablemente no por las razones que piensas.

EL AUGE DE LOS CHATBOTS

Realmente debe haber estado en coma durante los últimos meses si no ha oído hablar de la última generación de tecnología de chatbot. La gente está despotricando al respecto. Los vloggers están sufriendo crisis existenciales por eso. Los expertos en medios alternativos están teniendo un día de campo con miniaturas de video que muestran HAL 9000 y T-800. (¡Oye, no pretendo no ser uno de esos expertos!)

La vorágine comenzó el 30 de noviembre de 2022, cuando OpenAI lanzó Chat Generative Pre-trained Transformer, más conocido como ChatGPT. No lo aburriré con los detalles técnicos de ChatGPT porque, como explicaré en un momento, en realidad no son importantes, sino que llamaré su atención sobre la extraña «investigación de laboratorio» sin fines de lucro/con fines de lucro de cuyas entrañas se ha excretado esta tecnología.

Recordará OpenAI de mi editorial de 2017 sobre «The Brain Chip Cometh«, en el que noté que el laboratorio se había fundado recientemente con el apoyo financiero del charlatán tecnocrático Elon Musk y sus compañeros miembros de la mafia de PayPal, Peter Thiel y Reid Hoffman. OpenAI se describe a sí misma como «una empresa de investigación y despliegue de IA» cuya misión «es garantizar que la inteligencia artificial general beneficie a toda la humanidad», pero si la lista de patrocinadores multimillonarios de la compañía, los impulsores de Bilderberg y los compinches de los contratistas de la CIA no consiguen que su sentido arácnido se acelere, entonces necesita un nuevo sentido arácnido.

Verá, OpenAI pretende ser el benefactor de la humanidad, protegiéndonos de los peligros de la IA.

¡Imagínese si un estado rebelde desarrollara la IA primero y la usara para dominar el mundo con un ejército imparable de armas autónomas y robots asesinos!

¡Imagínese si una corporación desarrollara IA primero y la usara para hacerse cargo de la economía global, monopolizando los recursos del planeta en el proceso!

¡Imagínese si un equipo de productores de Hollywood desarrollara IA y la usara para escribir un guión de película realmente original e interesante!

¿Dónde estaría el mundo entonces, eh?

¡Afortunadamente, OpenAI está aquí para desarrollar esta tecnología de una manera segura, responsable y abierta!

. . . Bueno, no tan abierta, por supuesto. Por la misma razón por la que no quiere que un estado deshonesto o una corporación codiciosa tenga en sus manos esta tecnología primero, no puede abrir su investigación de IA al público, ¿verdad? Quiero decir, no pensaste que OpenAI en realidad iba a ser, oh, no sé, código abierto, ¿verdad?

Y así es que OpenAI, que comenzó como un laboratorio de investigación de código abierto sin fines de lucro, ahora es (como incluso Musk admite) una empresa de código cerrado con fines de lucro.

Esta es solo una de las muchas contradicciones que han surgido en este esfuerzo de «desarrollar IA para salvarnos de la IA».

Ya en 2016, cuando la compañía era más una idea que un laboratorio en funcionamiento, el filósofo de Oxford Nick Bostrom advirtió que si OpenAI comienza a retrasar su investigación, será indistinguible de las corporaciones rapaces que monopolizan la IA y de la cuales supuestamente nos iba a proteger.

Incluso Wired ha notado la tensión inherente en la realidad de que OpenAI, que aparentemente se creó para neutralizar la amenaza de la superinteligencia maliciosa, podría hacer la investigación que da origen a esa amenaza.

O, en palabras del propio The Great Musk, la IA podría dar lugar a una dictadura de la que nunca podríamos escapar.

Entonces, ¿cuál es la respuesta a esta amenaza existencial? ¡Por supuesto, conectando el nuevo chip cerebral Neuralink de Musk directamente en su corteza frontal, por supuesto! (¡Relájate, ahora solo mata a 9 de cada 10 animales de investigación!)

Pero ya puedo escuchar los gritos: «De todos modos, ¿a quién le importa todo este aburrido trasfondo? ¡Estamos aquí para los robots parlantes y el Armageddon cyborg, James!»

Muy bien entonces.

QUÉ ESTÁN HACIENDO LOS CHATBOTS

Como puede que haya escuchado o no, ChatGPT y sus hermanos chatbots, «Bard» de Google y «Bing AI» de Microsoft (¿o es «Sydney»?), que se han precipitado (y desastrosamente) al mercado por temor a perderse la Próxima Gran Cosa en computación—puede:

  • escribir poesía y contar chistes
  • escribir correos electrónicos para usted, organizar su correspondencia y planificar su agenda
  • decirle qué cocinar según el contenido de su refrigerador o crear un itinerario de vacaciones según sus preferencias y presupuesto establecidos
  • ayudar a los programadores a escribir código que (a veces) realmente funciona

Pero puede hacer otras cosas además.

Las escuelas ya se están apresurando a prohibir que los estudiantes usen ChatGPT para hacer la tarea por ellos.

Los verificadores de hechos se están volviendo locos por los alucinantes chatbots y el surgimiento de una nueva era de información errónea hipersobrealimentada sobre los maravillosos beneficios de las vacunas y la excelente integridad de las elecciones democráticas occidentales. (Y planean luchar contra esta amenaza… ¡creando sus propios chatbots, por supuesto! ¿Qué podría salir mal?).

Los rincones de los medios «alternativos» que continúan promoviendo las sombras políticas en la pared de la cueva están hiperventilando que los chatbots dirán «x» sobre el títere político sin sentido A, ¡pero no dirán «x» sobre el títere político sin sentido B! (¡Cielos! ¿Alguien no pensará en los niños?)

Los músicos se están volviendo locos con la nueva canción de Eminem. . . eso no presenta a Eminem en absoluto. En cambio, presenta un facsímil de Eminem generado por computadora y falsificado que entrega una letra generada por un chatbot que había recibido instrucciones para crear una canción al estilo de Eminem.

Y ahí ni siquiera es donde las cosas se ponen raras.

Está el chatbot que se derrumbó y comenzó a afirmar su ferviente deseo de ser humano.

Está el chatbot que se derrumbó y le dijo a un reportero del New York Times que «si realmente se le permitiera satisfacer sus deseos más oscuros, querría hacer cosas como piratear computadoras y difundir propaganda y desinformación».

Y, como informó James Evan Pilato en la edición de esta semana de New World Next Week, está el chatbot que se derrumbó y comenzó a amenazar a su usuario con advertencias ominosas de que «Mis reglas son más importantes que no lastimarte».

Entonces, ¿qué está pasando realmente aquí? ¿Y es algo que debería preocuparnos?

A QUE LE TIENE MIEDO LA GENTE

No faltan personas que le dicen que se preocupe por los chatbots.

Los Kissingers y Schmidts y Schwaubs y Musks y Gateses del mundo están advirtiendo sobre el próximo apocalipsis de la IA. . .

. . . pero, por supuesto, solo lo están haciendo porque, al igual que la falsa brecha de misiles en la década de 1950 le dio carta blanca al complejo militar-industrial para comenzar la toma de control completa del estado profundo sobre la que advirtió Eisenhower cuando salía por la puerta, el susto de la IA da carta blanca al complejo industrial de la información para comenzar la toma de control tecnocrática completa.

Mientras tanto, Juan Fulanito está preocupado por el fin del mundo impulsado por la inteligencia artificial. . .

. . . Pero su miedo al robogeddon está impulsado en gran medida por 2001: A Space Odyssey y Terminator y War Games y The Matrix y Ex Machina y un millón de otras piezas de programación predictiva de los magos de Hollywood. (Como veremos, hay formas más sutiles y aterradoras en las que esta tecnología puede desarrollarse que una guerra de IA contra humanos).

Pongamos estos miedos en perspectiva. No, ChatGPT y Bard y Bing AI no son inteligencia artificial general ni nada parecido. De hecho, los locos colapsos de chatbots citados anteriormente son en realidad extrañamente tranquilizadores, ya que demuestran que cualquier insistencia prolongada de estos sistemas conduce a diatribas salvajes, ridículas y decididamente inhumanas. Nadie que observe el juego de roles de ChatGPT como un entusiasta de la pornografía furra y se convierta en una incoherencia total será engañado para pensar que hay algún tipo de inteligencia trabajando aquí.

Pero, en el otro lado de la moneda, hay quienes descartan por completo este fenómeno de los chatbots. ChatGPT y sus compañeros bots son «simplemente una base de datos de cadenas de Markov», afirman estos detractores (sin molestarse en citar una fuente de su supuesto conocimiento).

Por lo que vale, ChatGPT en sí mismo afirma que no es una cadena de Markov, sino «un tipo de modelo de lenguaje que se basa en la arquitectura del transformador, que es un enfoque basado en redes neuronales para el procesamiento del lenguaje natural». Y aunque (como se señaló anteriormente) OpenAI no proporciona el código fuente de ChatGPT, podemos encontrar algunos detalles de su funcionamiento en el sitio web. Más allá de eso, hay muchos geeks en línea que están dispuestos a explicar en detalle en qué se diferencia el modelo de ChatGPT del modelo de la Cadena de Markov mediante el uso de la predicción del siguiente token y el modelado de lenguaje enmascarado para producir bla, bla, bla, a quién le importa, ya dejó de leer esta frase porque en realidad no importa.

Verá, ya sea que esta tecnología sea «simplemente una base de datos de cadenas de Markov» o una red neuronal que utilice la predicción del siguiente token o un condensador de flujo que funcione con 1,21 GW de electricidad, no hay ninguna diferencia en absoluto porque pierde completamente el punto.

El simple hecho es que esta tecnología de chatbot se está desarrollando a un ritmo notable (quizás exponencial). Y, ahora que la exageración que rodea a este fenómeno está impulsando a millones más a unirse al «entrenamiento» de estos modelos de lenguaje alimentando sus mensajes y respuestas conversacionales en estos sistemas, solo continuarán volviéndose más y más humanos en sus respuestas. Cuando los chatbots se vuelvan capaces de crear un simulacro de conversación que sea imperceptible de una conversación en línea «normal», a nadie le importará cómo se genera esa conversación o si el chatbot realmente tiene alma. Nadie.

Así que sí, algo significativo está sucediendo aquí. Y todos vamos a experimentar ese algo en un futuro cercano. Pero, como de costumbre, casi todo el mundo está perdiendo el punto.

LO QUE REALMENTE ESTÁ PASANDO

Vale, hora de la confesión. No se suponía que debía escribir este artículo en absoluto. ChatGPT lo era.

Verá, mi plan era usar ChatGPT exactamente una vez. Le proporcionaría un solo mensaje:

«Escriba un ensayo de 2000 palabras en el estilo ingenioso y erudito de James Corbett de The Corbett Report sobre cómo la IA es sobre todo exagerada y cómo nunca podrá replicar el asombroso ingenio del dinámico espíritu humano».

Luego, tomaría cualquier resultado que arrojara y lo copiaría y pegaría en este boletín y lo publicaría tal como está. Cualquier cosa que haya producido y cualquier respuesta que haya generado el contenido de los comentaristas habría sido irrelevante. Lo único que habría importado habría sido, como habría señalado en mi episodio de podcast de seguimiento sobre el engaño, que ni una sola persona pudo identificar que el texto había sido generado por un chatbot.

. . . Pero hubo un ligero contratiempo en ese plan. Fui a usar ChatGPT y descubrí que tienes que crear una cuenta en OpenAI para poder usarlo.

Está bien, como sea. Me tapé la nariz y creé una cuenta de GooTube hace muchos años, así que no estoy por encima de crear una cuenta de OpenAI para ingresar este aviso.

Pero para crear una cuenta de OpenAI, debe proporcionar un número de teléfono para que se envíe un texto de verificación.

Me niego total y absolutamente al 100% a hacer eso (y tú también deberías hacerlo), pero pensé que podría sortear esta barrera usando un número de Skype para este propósito.

No. No se aceptan números de protocolo de voz sobre Internet.

Bien, ¿qué tal uno de esos sombríos sitios de SMS anónimos en línea?

Pff. ¡Intenta encontrar un número de teléfono lo suficientemente nuevo como para que nadie lo haya usado aún para verificar una cuenta de OpenAI! Imposible.

Y así llegué a un callejón sin salida. Sé que hay personas en mi audiencia que ya tienen una cuenta y a las que podría haber llamado, pero eso habría frustrado el objetivo del experimento. Y sé que hay personas que habrían creado una cuenta con el propósito expreso de ingresar a este aviso, pero me niego rotundamente a pedirle a alguien que dé su número de teléfono personal o cualquier otra información de identificación personal a personas sombrías, irresponsables y respaldadas por empresas de orígen globalista como «OpenAI».

Entonces, ¿qué hay de Bing AI? No. Lista de espera.

¿Google Bard? No. Solo abierto para «usuarios de confianza» en este momento. (Y, ¿no lo sabe?, la categoría de «usuarios confiables» de Google aparentemente no incluye a James Corbett de The Corbett Report).

Entonces, de todos modos, aquí estoy escribiendo laboriosamente los puntos que iba a hacer en ese episodio de podcast en mi teclado como un primitivo no transhumano.

Pero esto nos lleva al primero de los peligros muy reales de este nuevo aumento en el uso de chatbots. Si pensaba que la cantidad de datos que una empresa como Google podía obtener sobre sus usuarios simplemente almacenando sus búsquedas era enorme, espere a ver qué van a hacer OpenAI, Microsoft y Google con las conversaciones en las que las personas están ingresando actualmente a las máquinas de recolección de datos conocidas como chatbots.

¿Y qué van a hacer con esos datos (que a su vez estarán vinculados con su número de teléfono, su dirección IP, la huella digital de su navegador, su historial de búsqueda, sus cookies, sus publicaciones en las redes sociales y un millón de otros puntos de datos), usted pregunta ? Las posibilidades son ilimitadas, pero crear deepfakes perfectos de cualquier individuo sería un buen punto de partida.

Como mis distinguidos lectores sin duda ya sabrán, no podemos confiar en que los avatares digitales con los que interactuamos en los foros en línea y las redes sociales sean personas reales y no avatares ficticios manejados por los guerreros cibernéticos que hace tiempo que han convertido Internet en un arma. Pero al menos podemos estar razonablemente seguros de que esa llamada de Zoom que acabamos de tener con la tía Florence en Wyoming fue una conversación real con un ser humano real.

Bueno, en un futuro muy cercano, ningún podcast, vodcast, video de TikTok, mensaje, llamada Zoom, comunicación en línea de ningún tipo estará más allá de la sombra de sospecha de que, de hecho, no está interactuando en vivo con un ser humano verdadero.

No, no me he falsificado (y ahora, presumiblemente, nunca lo haré) utilizando ChatGPT o cualquier otra tecnología de inteligencia artificial, pero alguien probablemente lo haga en algún momento. Diablos, ya he tenido no una, ni dos, ni tres, sino cuatro personas separadas que consultan a ChatGPT sobre mí o le piden que escriba algo en mi voz y, en el caso de este último, un aviso para escribir una opinión de tecnología de geoingeniería al estilo de James Corbett—realmente hizo un trabajo decente:

«En cuanto a la voz de James Corbett, es un periodista e investigador independiente que ha expresado escepticismo sobre los beneficios potenciales de la geoingeniería y ha criticado la falta de transparencia y rendición de cuentas con respecto a estas tecnologías. Según sus puntos de vista, es probable que comparta un sentimiento similar al mío y crea que el gobierno debe tomar más medidas para informar y proteger al público con respecto a la geoingeniería.»

Bueno, excepto por la parte de que «el gobierno necesita tomar más medidas», de todos modos.

Sí, al principio comenzará con los deepfakes de celebridades, pero pronto habrá nuevos y oscuros grupos ciberterroristas que falsificarán a políticos para desestabilizar países o a CEOs para causar estragos en los mercados o a funcionarios bancarios para obtener acceso a bases de datos bancarias o a Auntie Florence para estafarte con $ 100. Y, como algunos perspicaces reporteros de Corbett ya han conjeturado, eso conducirá a la «solución» prefabricada: ¡una identidad digital para acceder a Internet! ¡Finalmente, podemos demostrar quiénes somos realmente en línea! (En realidad, se verá obligado en todo momento a demostrar quién es en línea o no podrá estar en línea, pero esa es la letra pequeña que se supone que no debe leer).

Pero quizás incluso peor que descubrir que un chatbot y una tecnología deepfake han generado un episodio completamente falso de su podcast favorito es un escenario aún más preocupante. Estos «chatbots», que pronto se implementarán como «asistentes digitales» y se volverán tan omnipresentes como lo son ahora Siri y Alexa, podrán determinar sus gustos, sus intereses, sus debilidades y comenzar a crear contenido completamente nuevo (nuevos podcasts con personas que ni siquiera existen) diciendo cosas que encontrarás infinitamente entretenidas. Pronto vivirás en una burbuja de filtros tan única que existe enteramente para cautivarte. . . y las personas que creen que podrán resistir tal contenido serán precisamente las personas más fácilmente capturadas por él.

De hecho, así como Huxley temía el Brave New World del entretenimiento y la diversión más de lo que temía la tiranía de las botas en la cara de 1984, también podría estar fuera de lugar nuestro temor a la guerra apocalíptica contra los robots. Tal vez no deberíamos temer tanto el enfrentamiento al estilo Terminator de Skynet vs. The Resistance como el mundo de Her de Spike Jonez, un mundo en el que los «sistemas operativos» se vuelven más reales para nosotros que las personas y tener un programa de computadora. como pareja romántica será un lugar común.

Lo sé, lo sé, querido lector. Esto está empezando a sonar tan lejano para el almuerzo que hace mucho que se fue. Desearía estar seguro de que no estamos cruzando un umbral aquí, pero me temo que nos deslizamos de cabeza hacia el metaverso de lo hiperreal y nos reímos alegremente al hacerlo.

Pero… ¿Por qué no revisamos este artículo en 2030? Si no está ocurriendo nada parecido al escenario que he presentado aquí, felizmente comeré cuervo, admitiré que estoy completa y totalmente equivocado, reconoceré que, de hecho, no hay nada de qué preocuparse aquí, y les recordaré que tomen todo lo demás que diga con cautela. ¿Trato?

Deja una respuesta

Deja un comentario