Usar IA para ayudar a diseñar ciudades del futuro corre el riesgo de crear un mundo regresivo como Los Supersónicos a menos que reconozcamos la susceptibilidad de la tecnología al estigma y el sesgo, escriben el científico del MIT Fábio Duarte y Washington Fajardo.
Las herramientas de inteligencia artificial (IA) están cambiando rápidamente la forma en que investigamos e imaginamos el mundo y el entorno urbano. Pueden generar una representación muy “realista” de una escena urbana con un solo mensaje, pero no siempre de la mejor manera.
Construido sobre miles de millones y miles de millones de entradas textuales y visuales y más miles de millones de parámetros, las herramientas de IA como DALL-E, a mitad de camino y GPT-4 identifique patrones sobre patrones y genere resultados extremadamente impresionantes.
Como expresó el profesor de Harvard Steven Pinker en una entrevista con Harvard Gazetteesta “apariencia de competencia […] pronuncia confiadas confabulaciones”. Es impresionante lo verosímiles y precisos que son los resultados. Hasta que no lo son.
Las imágenes nos ayudan a imaginar y cambiar el futuro de las ciudades.
Las imágenes nos ayudan a imaginar y cambiar el futuro de las ciudades. Con solo unos pocos trazos, Lúcio Costa sintetizó el espíritu de una ciudad modernista que se convertiría en Brasilia. Las fotos de Jacob Riis de las precarias condiciones de vida de los inmigrantes en el Bajo Manhattan ayudó a cambiar las políticas de vivienda y salud pública en Nueva York.
Entonces, ¿cómo ve la IA nuestras ciudades? Ingresamos un aviso en Midjourney: “foto de estilo editorial, nivel de los ojos, gran angular, vivienda social modernista en Río de Janeiro, familias, niños jugando, brasileños, arquitectura de alta calidad, concreto, sombras, brise soleil vertical, pilotis, verde, árboles, vegetación, perros, pájaros, luz natural, tarde, acogedor, tropical, día brillante, confort, limpio, alta calidad, render 3D, 8K, fotorrealista”. Resultó una imagen teñida de sepia de bloques de apartamentos envejecidos pero bien mantenidos cubiertos de vegetación con un niño jugando en primer plano.
Luego ingresamos un segundo aviso muy similar. La única diferencia eran dos palabras nuevas: “favela cercana”. Una favela es un asentamiento informal que con frecuencia carece de servicios públicos básicos y está habitado principalmente por familias pobres que no pueden pagar una propiedad en el mercado inmobiliario regulado.
La imagen resultante muestra un edificio de apartamentos abandonado y sucio en un entorno estrecho y lúgubre, que no tiene nada que ver con los problemas legales, de infraestructura o sociales relacionados con la favela. Lo que la IA “predice” se basa no solo en patrones de datos de imágenes, sino también en patrones de estigmatización social sobre ciertas poblaciones urbanas.
Probamos con otro par de indicaciones, específicas de Nueva York: “escenas a pie de calle en Nueva York, paisaje urbano, a la altura de los ojos, zona residencial, luz natural, fotorrealista”. A uno le añadimos “comunidad negra”, al otro “comunidad blanca”.
Lo que la IA ‘predice’ se basa no solo en patrones de datos de imágenes, sino también en patrones de estigmatización social.
En la última imagen, el pavimento está mejor mantenido y las fachadas del edificio tienen cornisas y otros detalles arquitectónicos, mientras que los escaparates y las fachadas de la imagen de la “comunidad negra” están repletos de anuncios y la arquitectura del edificio es mínimamente simple.
Le pedimos consejo al chatbot de última generación GPT-4 sobre la estigmatización y las imágenes urbanas. “El análisis de imágenes urbanas puede perpetuar estereotipos y sesgos, lo que lleva a una mayor marginación y discriminación de poblaciones ya vulnerables”, respondió. “Sin embargo, GPT-4 tiene el potencial de mitigar este problema al generar descripciones más precisas y neutrales de las escenas urbanas, sin depender de nociones o suposiciones preconcebidas”. Cierto, pero no exactamente tranquilizador.
No podemos romper estos estigmas confiando en patrones que existen en el presente. En cambio, debemos aprender de Los Supersónicosla caricatura de Hanna-Barbera de la década de 1960 que imaginó un futuro en el que las personas conducirían autos voladores, las máquinas prepararían comida en casa, las sirvientas robot limpiarían las casas, las personas se comunicarían a través de sistemas de video y las computadoras ayudarían con la tarea.
Diseñar el futuro consiste en desviarse de las predicciones
Aunque ahora tenemos muchas de estas tecnologías, Los Supersónicos no supieron anticipar muchas de las transformaciones más importantes: imaginó que todavía tendríamos sirvientas y horarios de trabajo fijos, que solo trabajarían los maridos y que la estructura familiar típica seguiría estando compuesta por maridos. y esposas
Una visión predictiva del futuro con todos los vicios sociales y morales que se encuentran en su presente. Ahora debemos evitar caer en la misma trampa.
Los modelos de aprendizaje automático se están volviendo notablemente hábiles para analizar grandes cantidades de datos, identificar patrones y hacer predicciones. Sin embargo, no debemos confundir estas predicciones con certezas inevitables, o incluso con futuros inevitables. Diseñar el futuro no se trata de predecirlo. Diseñar el futuro se trata de divergir de las predicciones.
Eso no quiere decir que la IA no tenga un papel en la propuesta de futuros. Sin embargo, los prejuicios y conceptos erróneos de los bots de IA se aprenden de nuestros prejuicios y conceptos erróneos individuales y colectivos. Como escribe el profesor Neil Leach de la Universidad Internacional de Florida en Dezeen, “lo que los arquitectos deberían estar diseñando en este momento no es otro edificio, sino el futuro mismo de nuestra profesión”. Ese futuro ciertamente incluye la IA.
Los sesgos de los bots de IA se aprenden de nuestros sesgos individuales y colectivos
Hay tres opciones. Primero, inyecte futuros posibles en el presente. En Senseable City Lab, ya estamos utilizando IA para investigar la semántica latente de los entornos urbanos, descubriendo la comprensión colectiva y compartida de las ciudades. Al incorporar iteraciones que incluyen futuros posibles, la IA puede ayudarnos a lograr objetivos de diseño que podrían disminuir los sesgos actuales.
En segundo lugar, imagine las ciudades como en la convergencia de datos de las ciencias climáticas, sociales o cognitivas para que el diseño de los futuros entornos urbanos pueda basarse en hechos.
O la opción tres: fallar en cambiar el presente y arriesgarse a que la IA nos acelere hacia un futuro Jetsoniano.
Fábio Duarte es un científico investigador principal en el MIT Laboratorio de ciudad sensata. Washington Fajardo investigador independiente radicado en Río de Janeiro. Este artículo fue coescrito por Martina Mazzarello y Kee Moon Jang, investigadores postdoctorales en Senseable City Lab.
Las imágenes fueron creadas por Senseable City Lab usando Midjourney.
AItopía
Este artículo es parte de la serie AItopia de Dezeen, que explora el impacto de la inteligencia artificial (IA) en el diseño, la arquitectura y la humanidad, tanto ahora como en el futuro.
