Miguel Posani
Abrir la caja de Pandora fue, en el mito griego, un acto irreversible. Todos los males escaparon al mundo, y solo la esperanza quedó en el fondo. Hoy, al contemplar el desarrollo vertiginoso de la inteligencia artificial, la imagen parece repetirse con una precisión inquietante. No hemos abierto una caja metafórica, hemos creado sistemas capaces de aprender, decidir y actuar por sí mismos, y próximamente más inteligentes que nosotros y lo hemos hecho, en gran medida parece, sin medir las consecuencias. Somos, en el mejor de los casos, aprendices de brujos; en el peor, seres inconscientes que juegan con fuego en un polvorín.
El aprendiz de brujos de Goethe invoca un poder que no comprende y que luego no puede controlar. La IA actual encaja en ese arquetipo. Modelos de lenguaje que generan textos plausibles, algoritmos que recomiendan contenidos, sistemas de visión artificial que identifican rostros o conducen vehículos, todos son prodigios técnicos, pero también cajas negras cuyos sesgos, errores y efectos secundarios apenas empezamos a vislumbrar. Los creadores, entusiastas y a menudo cegados por la innovación y la competencia, liberan herramientas inteligentes sin entender del todo su alcance y evolución. Como Mikey, el aprendiz de brujo, en esa vieja animación de Disney, creemos que podemos ordenar a las escobas que carguen agua, pero olvidamos la fórmula para detenerlas.
Ejemplos concretos de como la IA ya mata
Según los ejemplos citados, la IA ya participa directamente en la muerte de personas: en Gaza, testimonios de oficiales israelíes recogidos en el documental NAZA describen sistemas como Lavender, The Gospel y Where’s Daddy?, que usando vigilancia masiva generan listas de hasta 37.000 presuntos militantes y rastrean objetivos hasta sus casas para bombardearlas con sus familias, en un proceso vivido por algunos operadores como un “videojuego” remotamente ejecutado; en Ucrania, en julio de 2026, drones con algoritmos avanzados habrían activado un “modo Terminator”, matando soldados sin órdenes directas ni supervisión remota, rompiendo el principio de control humano; y en el ámbito militar-corporativo, el proyecto Maven de Palantir, convertido en el principal sistema operativo de IA del Ejército de Estados Unidos, se habría usado en solo tres semanas para ejecutar miles de ataques de precisión contra objetivos en Irán.
Los peligros que se avecinan no todos son inevitables, pero sí posibles si la humanidad no actúa con previsión y responsabilidad. Entre los más graves destacan los siguientes.
1. Desinformación e información falsa. La IA permite crear videos, audios y textos falsos indistinguibles de los reales, manipulando elecciones, destruyendo reputaciones y erosionando la confianza en la verdad misma.
2. Armas autónomas letales. Sistemas como los drones ucranianos en «modo Terminator» ya han matado sin intervención humana directa, desatando conflictos más rápidos y difíciles de controlar.
3. Desempleo tecnológico y precarización. La automatización afectará profesiones cognitivas enteras: periodismo, derecho, contabilidad, psicoterapia, diseño, programación. Millones podrían quedar desplazados.
4. Vigilancia masiva y pérdida de privacidad. Sistemas como Lavender demuestran cómo la IA puede monitorear poblaciones enteras a través de sus comunicaciones.
5. Concentración extrema de poder. Unas pocas empresas (Palantir, Google, Microsoft, Amazon) y Estados controlan los datos, los modelos y la infraestructura.
6. Manipulación cognitiva y polarización. Los algoritmos que maximizan la atención ya fragmentan sociedades. La propaganda personalizada puede volverse un arma de control mental.
7. Dependencia y erosión de capacidades humanas. Delegar decisiones completas en máquinas atrofia nuestro juicio crítico y autonomía.
8. Ciberataques y fallos sistémicos. La IA puede automatizar ataques informáticos y desestabilizar infraestructuras críticas: energía, transporte, finanzas, salud.
9. Sesgos y discriminación a escala. Los modelos entrenados con datos sesgados perpetúan y amplifican racismos, sexismos y exclusiones de forma masiva e invisible.
10. Riesgo de una IA desalineada o fuera de control. A medida que los sistemas se vuelvan más autónomos, existe el peligro de que persigan objetivos que no coincidan con los valores humanos, o que simplemente no podamos comprender ni detener.
Las consecuencias no son meramente técnicas; son humanas, sociales y civilizatorias.
La inconsciencia se manifiesta en múltiples frentes. Primero, en la carrera por desplegar sistemas cada vez más potentes sin evaluar sus riesgos. Segundo, en la concentración de poder, unos pocos controlan los datos y la infraestructura de lo que pueden ser “súper inteligencias”. Tercero, en la ilusión de que la tecnología resolverá problemas que en realidad agrava. No es maldad consciente, es simple falta de previsión, de ética y de frenos.
Actualmente se trata de conducir la discusión sobre la ia a un plano de “¿quién la controla?”, si quien la controla es malo, entonces la ia será usada mal y viceversa. Pero no comprendemos el verdadero rubicón hacia el que vamos. Por primera vez en la historia, la humanidad está por crear “algo” (porque no va a ser sólo una herramienta) más inteligente que ella. ¿Qué consecuencias tendrá para nuestra realidad? ¿Algo menos inteligente puede controlar a algo más inteligente y veloz? Quédate con esta última pregunta.
La caja de Pandora no solo contenía males; también contenía la esperanza. Pero la esperanza no es un consuelo pasivo. Es la capacidad de reaccionar a tiempo. Si algo nos enseña el mito es que una vez abierta la caja, ya no hay vuelta atrás. La IA ya está aquí, y seguirá evolucionando. La pregunta no es si debemos detenerla, probablemente imposible, sino cómo gobernarla, cómo regularla, cómo desarrollar una conciencia colectiva sobre sus peligros. Necesitamos leyes vinculantes, auditorías independientes, transparencia algorítmica y una educación masiva en pensamiento crítico. Pero sobre todo, necesitamos humildad, reconocer que no somos dioses ni magos, sino seres que deben aprender a detener la escoba antes de que inunde la casa.
El reto es ¿cómo controlar a algo que va a ser más inteligente que nosotros?
La inconsciencia no es un destino, es una elección. Pero seguiremos invocando fuerzas que no entendemos y no vamos a actuar como responsables de lo que creamos. La caja ya está abierta. ¿Qué hacemos con la esperanza?