Especialistas adelantan la posibilidad de que la inteligencia artificial pueda reemplazar por completo y hasta matar humanos, mientras piden regulaciones urgentes para esta tecnología. Un empleado de Anthropic admitió que habría más del 10% de probabilidades de que la IA pudiera “matar a todos los humanos” en la próxima década y advirtió que la empresa no tenía un plan para asegurar que la IA permanezca alineada con los valores humanos.
El martes, un empleado de alto rango de Anthropic admitió que cree que habría más del 10% de probabilidades de que la tecnología pudiera “matar a todos los humanos” en la próxima década y advirtió que la empresa de IA no tenía un plan para asegurar que la superinteligencia artificial no causaría ningún daño, que permanezca segura y alineada con los valores humanos.
Evan Hubinger, el que emitió esta advertencia, es responsible de uno de los equipos de seguridad de IA de la compañía. Sostuvo además que la evolución hacia sistemas capaces de perfeccionarse por sí mismos está ocurriendo más rápido de lo previsto.
La declaración de Hubinger se produjo pocas horas después de que Jacob Coxon, investigador británico que trabajó en OpenAI y Anthropic en el área de preentrenamiento de modelos de IA, anunciara su salida de Anthropic. Coxon cuestionó la estrategia de ambas empresas y alertó que están compitiendo por desarrollar sistemas que podrían superar ampliamente las capacidades humanass: “Estos pronto serán sistemas superhumanos que podrán hackear cualquier cosa, revolucionar cualquier campo de un día para el otro, y adquirir poder y recursos reales”, expresó en su cuenta de X luego de su renuncia. Sobre esta última parte, más adelante en el hilo, agregó: “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.
Este escenario de automejora de la inteligencia artificial plantea la posibilidad de que un sistema incremente sus capacidades sucesivamente hasta alcanzar un nivel difícil de controlar para las humanos. En los últimos años, distintos investigadores abandonaron compañías de inteligencia artificial alegando preocupaciones de seguridad, mientras las empresas aceleran el desarrollo de modelos cada vez más sofisticados.
La IA despierta alarmas
Bernie Sanders, senador independiente por Vermont, le pidió al Congreso estadounidense que regule la tecnología y señaló encuestas que sugerían que el 81% de los estadounidenses creía que sus políticos deberían actuar. “No podemos permitir que un puñado de personas codiciosas jueguen a ser Dios y determinen el futuro de la humanidad –nuestra economía, medio ambiente, democracia, privacidad y más– sin la participación pública”, expresó.
Al otro lado del Atlántico, en el Reino Unido, y desligándose de los pedidos abolicionistas, el diputado laborista Darren Jones les escribió al primer ministro, Andy Burnham, y a los responsables de la ONU y de la OCDE pidiendo un “tratado multinacional para el desarrollo regulado y seguro de la superinteligencia”, con un enfoque centrado en la seguridad.
Des Browne, exsecretario de Defensa del Reino Unido y actual asesor de ControlAI, expresó que, aunque cuando era secretario de Defensa creía que la perspectiva de una guerra nuclear era la amenaza más peligrosa para la humanidad, “ahora resulta cada vez más evidente que el desarrollo de una IA superinteligente constituye una amenaza de magnitud similar”.
ControlAI es una organización sin fines de lucro que trabaja para prevenir el riesgo de extinción que supone la superinteligencia y asegurar “un gran futuro para la humanidad”. Con base en el Reino Unido y activa en Estados Unidos, Canadá y Alemania, está financiada por el multimillonario fundador de Skype, Jaan Tallinn. El mismo se considera “antiextincionista” y ha dedicado parte de su fortuna a hacer campaña por la seguridad frente a la IA.
Tallinn dijo en una entrevista este año: “Un investigador de IA bastante conocido me dijo: ‘Jaan, no te preocupes por esto. Los humanos somos una especie desechable’. Por lo que tengo entendido que no le importaba extinguirse”.
Tallin estima que entre el 10 y el 15% de los empleados de IA creen que la tecnología será un digno sucesor de la humanidad.
Más que un chat
Todas estas advertencias sobre el posible impacto de esta tecnología esclarecen el hecho de que la IA es más que un motor de búsqueda o un “chat”. Así y todo, no hace falta adelantarse a las futuras posibles catástrofes para confirmar este punto.
En agosto, el Consejo Económico y Social de la Ciudad de Buenos Aires (Cesba) presentó los resultados del Índice de Exposición Ocupacional a la IA Generativa de la CABA, primer relevamiento global sobre los impactos de la inteligencia artificial en el empleo de una ciudad. El índice es de 0,353 –en una escala de 0 a 1, donde 0 es la menor exposición y 1 la mayor–, tras relevar 39 ocupaciones porteñas. CABA está más expuesta a la IA que Estados Unidos, Francia o Reino Unido, y solo es superada por Singapur.
La investigación no parte de una hipótesis de “reemplazo generalizado” de puestos de trabajo, sino de automatización y complementariedad de las diferentes tareas, lo que transforma los empleos y demuestra el impacto real de la IA en la actualidad del país.
El presidente del Cesba, Manuel Socías, explicó que “dada la estructura productiva de la ciudad, que es fundamentalmente de servicios, está más expuesta a los avances de la disrupción tecnológica, por lo que también comienza a atravesar una transformación muy profunda en su mercado de trabajo”, y agregó que “eso requiere instancias urgentes de diálogo social tripartito, para que la inteligencia artificial sea una oportunidad y no una amenaza”.