por Por Federico Cugurullo , Trinity College de Dublín
Visto en: Activist Post
Estás caminando de regreso a casa. De repente, el terreno parece abrirse y emerge un dron de seguridad que bloquea tu camino para verificar tu identidad. Esto puede parecer descabellado, pero se basa en una tecnología existente : un sistema de drones fabricado por la empresa de inteligencia artificial Sunflower Labs.
Como parte de un proyecto internacional que analiza el impacto de la IA en las ciudades, recientemente “iniciamos terreno” en un nuevo campo de investigación llamado urbanismo de IA . Esto es diferente del concepto de “ciudad inteligente”. Las ciudades inteligentes recopilan información de la tecnología, como los sistemas de sensores, y la utilizan para gestionar operaciones y ejecutar servicios de manera más fluida.
El urbanismo con IA representa una nueva forma de dar forma y gobernar las ciudades mediante la inteligencia artificial (IA). Se aleja sustancialmente de los modelos contemporáneos de desarrollo y gestión urbanos. Si bien es vital que monitoreemos de cerca esta área emergente, también deberíamos preguntarnos si, en primer lugar, deberíamos involucrar tan de cerca a la IA en el funcionamiento de las ciudades.
El desarrollo de la IA está intrínsecamente relacionado con el desarrollo de las ciudades. Todo lo que hacen los habitantes de las ciudades le enseña a la IA algo valioso sobre nuestro mundo. La forma en que conduce su automóvil o anda en bicicleta ayuda a entrenar a la IA detrás de un vehículo autónomo sobre cómo funcionan los sistemas de transporte urbano.
Lo que come y lo que compra informa a los sistemas de inteligencia artificial sobre sus preferencias. Multiplique estos registros individuales por los miles de millones de personas que viven en ciudades y tendrá una idea de cuántos datos puede recopilar la IA en entornos urbanos.
Vigilancia predictiva
Bajo el concepto tradicional de ciudades inteligentes, tecnologías como el Internet de las Cosas utilizan sensores conectados para observar y cuantificar lo que está sucediendo. Por ejemplo, los edificios inteligentes pueden calcular cuánta energía consumimos y la tecnología en tiempo real puede cuantificar cuántas personas utilizan el metro en un momento dado. El urbanismo de la IA no se limita a cuantificar, sino que cuenta historias y explica por qué y cómo tienen lugar determinados acontecimientos.
No estamos hablando de narrativas complejas, pero incluso una historia básica puede tener repercusiones sustanciales. Tomemos como ejemplo el sistema de inteligencia artificial desarrollado por la empresa estadounidense Palantir, que ya se utiliza en varias ciudades , para predecir dónde se cometerán los delitos y quiénes estarán involucrados.
Los agentes de policía pueden actuar sobre estas predicciones en términos de dónde asignar los recursos . La vigilancia policial predictiva en general es uno de los poderes más controvertidos que las inteligencias artificiales están adquiriendo en el urbanismo de la IA: la capacidad de determinar qué está bien o mal, y quién es “bueno” o “malo” en una ciudad.
Esto es un problema porque, como ha dejado claro el ejemplo reciente de ChatGPT , la IA puede producir un relato detallado, sin captar su significado. Es una inteligencia amoral, en el sentido de que es indiferente a las cuestiones del bien o del mal.
Y, sin embargo, este es exactamente el tipo de cuestión que delegamos cada vez más a la IA en la gobernanza urbana. Esto podría ahorrar algo de tiempo a los administradores de nuestras ciudades, dada la extraordinaria velocidad de la IA para analizar grandes volúmenes de datos, pero el precio que estamos pagando en términos de justicia social es enorme.
Un problema humano
Estudios recientes indican que las decisiones tomadas por la IA están penalizando a las minorías raciales en los ámbitos de la vivienda y los bienes raíces . También hay que tener en cuenta un coste medioambiental sustancial , ya que la tecnología de IA consume mucha energía. Se prevé que contribuirá significativamente a las emisiones de carbono del sector tecnológico en las próximas décadas, y la infraestructura necesaria para mantenerlo consume materias primas críticas. La IA parece prometer mucho en términos de sostenibilidad ), pero cuando analizamos sus costos reales y sus aplicaciones en las ciudades, los aspectos negativos pueden fácilmente superar a los positivos.
No es que la IA se esté saliendo de control, como vemos en las películas de ciencia ficción y leemos en las novelas. Todo lo contrario: los humanos estamos tomando conscientemente decisiones políticas que colocan a la IA en la posición de tomar decisiones sobre la gobernanza de las ciudades. Estamos cediendo voluntariamente algunas de nuestras responsabilidades de toma de decisiones a las máquinas y, en diferentes partes del mundo, ya podemos ver la génesis de nuevas ciudades que se supone estarán completamente operadas por IA.
Un ejemplo de esta tendencia es Neom , un colosal proyecto de desarrollo regional actualmente en construcción en Arabia Saudita. Neom contará con nuevos espacios urbanos, incluida una ciudad lineal llamada The Line, gestionada por una multitud de sistemas de inteligencia artificial, y se supone que se convertirá en un modelo de sostenibilidad urbana. Estas ciudades del futuro contarán con vehículos autónomos que transportarán personas, robots que cocinarán y servirán comida y algoritmos que predecirán su comportamiento para anticiparse a sus necesidades.
Estas visiones resuenan con el concepto de ciudad autónoma , que se refiere a espacios urbanos donde la IA realiza de forma autónoma funciones sociales y de gestión con los humanos fuera del circuito.
Debemos recordar que la autonomía es un juego de suma cero. A medida que crece la autonomía de la IA, la nuestra disminuye y el surgimiento de ciudades autónomas corre el riesgo de socavar gravemente nuestro papel en la gobernanza urbana. Una ciudad dirigida no por humanos sino por IA desafiaría la autonomía de las partes interesadas humanas, como también desafiaría el bienestar de muchas personas.
¿Calificará para una hipoteca de vivienda y podrá comprar una propiedad para formar una familia? ¿Podrás conseguir un seguro de vida? ¿Está su nombre en una lista de sospechosos que la policía va a perseguir? Hoy en día, las respuestas a estas preguntas ya están influenciadas por la IA. En el futuro, si la ciudad autónoma se convierte en la realidad dominante, la IA podría convertirse en el único árbitro.
La IA necesita que las ciudades sigan devorando nuestros datos. Como ciudadanos, ha llegado el momento de cuestionar cuidadosamente el espectro de la ciudad autónoma como parte de un debate público ampliado y plantear una pregunta muy simple: ¿realmente necesitamos la IA para que nuestras ciudades sean sostenibles?
Federico Cugurullo , profesor asistente de Urbanismo inteligente y sostenible, Trinity College Dublin
Este artículo se vuelve a publicar desde The Conversation bajo una licencia Creative Commons. Lea el artículo original .
Deja una respuesta