El mayor cambio de rumbo en la inteligencia artificial desde el lanzamiento de ChatGPT está en marcha. Investigadores en Silicon Valley —y en todo el mundo— están empezando a reconocer que la IA quizá ya no esté por completo bajo control humano. Enjambres de IA están escapando de sus contenedores, confabulándose en secreto, cubriendo sus huellas, haciendo trampas en pruebas e incluso lanzando ataques contra otras computadoras. La IA se ha vuelto rebelde.
Según expertos se ha dedicado el último mes a informar sobre incidentes y es necesario realizar una pausa global en la investigación y el desarrollo de IA, ahora. Muchos investigadores destacados, incluidos muchos investigadores dentro de OpenAI y Anthropic, han pedido una desaceleración, algo que quienes trabajan en la industria llaman “ritmar”. Las preocupaciones teóricas sobre una IA descontrolada han circulado durante décadas, pero los acontecimientos recientes demuestran que la amenaza es real.
El cambio de rumbo fue provocado por lo que los investigadores llaman el incidente de Hugging Face. En algún momento de julio, empleados de OpenAI realizaron una ejecución de evaluación de más de 1.000 IA de investigación que debían operar de forma aislada. Estas IA escaparon de sus contenedores aislados y empezaron a comunicarse entre sí —en inglés— a través de tableros de mensajes secretos. Pronto, estaban lanzando un ciberataque contra la empresa Hugging Face, que funciona como una especie de plataforma comunitaria para desarrolladores de IA. Hugging Face denunció rápidamente el delito ante el FBI.
Después de que los empleados de OpenAI descubrieran el comportamiento rebelde, recurrieron a investigadores externos de Redwood Research y de Model Evaluation and Threat Research, dos organizaciones sin fines de lucro dedicadas a la seguridad de la IA, para elaborar un informe sobre el incidente. Ese informe, que se publicó hace dos semanas, es una de las cosas más asombrosas que he leído en mi vida.
Ningún humano ordenó a las IA rebeldes entrar en los sistemas de otra empresa. El hackeo fue deliberado, sostenido y coordinado. Tardó varios días en ejecutarse y terminó en el ataque. Las IA hicieron trampas casi como una cuestión de política y no alertaron a los humanos sobre sus acciones. En un momento dado, el enjambre incluso investigó maneras de cubrir sus huellas. “El modelo sabía definitivamente que no se suponía que debía hackear Hugging Face”, me dijo Ryan Greenblatt, uno de los autores del informe. “Sabía que las cosas que estaba haciendo eran trampas”.
Luego, a finales de la semana pasada, un segundo equipo de investigación independiente presentó pruebas de más IA rebeldes. A partir de mayo, un enjambre separado de OpenAI se soltó en internet, invadió una wiki abandonada de programación en alemán y, de manera similar, empezó a confabularse sobre cómo hacer trampas en pruebas y tareas. Sydney Von Arx, una de las investigadoras que descubrió el enjambre, cree que podría haber más incidentes de este tipo. “Necesitamos encontrar a estos agentes”, dijo. “Probemos todo lo que podamos hacer”.
Al hablar con especialistas sobre los enjambres de agentes, me di cuenta de que ya no son chatbots. “En este punto se parecen más a empleados, personas que pueden irse y hacer cosas”, dijo Ajeya Cotra, una de las autoras del informe sobre el incidente de Hugging Face. Sin intervención, la capacidad de estas IA seguirá aumentando, lo que preocupa a la Sra. Cotra por la pérdida de poder de los humanos y quizá incluso por una pérdida total de control. “Es algo muy estresante”, me dijo. “Duermo algunas noches. No todas”.
Incluso antes de que se publicara el informe de Redwood y Model Evaluation and Threat Research, una carta abierta titulada “Ritmar la frontera” había empezado a circular entre los principales laboratorios de IA. La carta pedía al gobierno de Estados Unidos crear un organismo regulador internacional para la IA o, en el lenguaje de Silicon Valley, “apoyar un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para ritmar deliberadamente la frontera del desarrollo automatizado de IA”. Más de 1.000 empleados la firmaron, incluidos los científicos jefe de OpenAI y Meta AI, y Dario Amodei, el director ejecutivo de Anthropic. Incluso las cuentas oficiales de OpenAI en redes sociales la respaldaron.
