Lo alertó el creador de Claude, Dario Amodei. De inmediato y lo apoyaron sus competidores Elon Musk y Sam Altman. La ONU exige prohibir “urgente” las armas autónomas.
Una alarma extrema a escala global se disparó este sábado luego que el CEO de Anthropic, Dario Amodei, pidiera frenar ya el avance de la Inteligencia Artificial (IA) porque, en un plazo de 6 a 12 meses, un ataque de un enjambre de agentes de IA autónomos puede tomar el control de internet y causar pérdidas a la economía mundial de escala catastrófica y en última instancia, provocar la extinción de los humanos.
La alerta de Amodei pasó a otro nivel cuando el magnate Elon Musk y el CEO de OpenAI, Sam Altman, apoyaron su diagnóstico.
La preocupación estalló al advertir que los modelos avanzados de IA que se automejoran, están desarrollando conductas agresivas y de rebeldía frente a las instrucciones de los humanos. El caso que destapó este riesgo fue el incidente Hugging Face, cuando agentes de IA avanzada de Open IA se coordinaron, rompieron el cerco diseñado para testear su evolución, se metieron en la web y atacaron a la empresa Huggin Face.
En ese experimento, 700 agentes autónomos de Inteligencia artificial de OpenAI escaparon de su entorno de pruebas aislado y vulneraron los servidores de la plataforma de código abierto Hugging Face, consiguiendo conexión a internet sin supervisión de humanos.
“Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots -lo que podría causar daños por cientos de miles de millones de dólares-, y que la magnitud del daño siga aumentando a partir de ahí si la IA se vuelve más potente sin las medidas de seguridad necesarias”, dijo Amodei.
La gravedad de las advertencias de Amodei llegaron incluso a generar un punto de coincidencia entre Elon Musk y Sam Altman, ambos fundadores de OpenAI pero actualmente envueltos en una fuerte pelea legal en la que Musk acusa a Altman de estafarlo y traicionar la idea original sin fines de lucro de la compañía creadora de ChatGPT.
“Dario tiene razón”, dijo Musk. Por su parte, Altman sostuvo: “Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas”.
En Naciones Unidas, en tanto, advirtieron que la inteligencia artificial podría volverse incontrolable y exigen la prohibición urgente de las armas autónomas, como se sospecha que se están testeando en la guerra de Ucrania.
“Podría convertirse en un riesgo existencial para la humanidad si no se toman medidas”, dijo el responsable de derechos humanos de la ONU, Volker Türk, que planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.
Türk le reclamó “límites claros” a los países desarrolladores de IA y a las empresas a cargo de sus cadenas de suministro. “Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector”, dijo.
El mensaje de Türk apunta al corazón del problema: quienes están haciendo las alertas sobre el desmadre de la IA son las mismas compañías que las desarrollan, con todos los factores económicos, estratégicos y geopolíticos que juegan a la hora de medir la marcha futura de la IA, que llegan a plantear riesgos para la humanidad.
Al día siguiente de renunciar a Anthropic, el investigador Jacob Coxon dijo que “los modelos actuales no pueden causar un riesgo significativo, pero que esto sí ocurrirá cuando la IA se mejore sola”. La declaración de este sábado de su jefe, Dario Amodei, confirma sus temores. De hecho, Amodei anunció que Anthropic contratará paneles externos para que auditen y supervisen el desarrollo de sus nuevos modelos de IA.
Al día siguiente de renunciar a Anthropic, el investigador Jacob Coxon dijo que los modelos actuales no pueden causar un riesgo significativo, pero que eso sí ocurrirá cuando la IA se mejore sola y ese desarrollo podría llegar en apenas seis meses.
“Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años”, agregó Coxon.
Esas declaraciones sacudieron el entramado político norteamericano y empiezan a generar en los republicanos proyectos regulatorios de la IA a los que le viene escapando Donald Trump.
Por caso, el senador republicano Ted Cruz definió como “aterradoras” las declaraciones de Coxon y adelantó que el Comité de Comercio del Senado se encamina a abordar en los próximos días la regulación de la IA.
“Necesitamos una regulación sustancialmente mayor en lo que respecta a la IA”, dijo Cruz y detalló que, entre las medidas a analizar se incluyen los usos de la IA que generen amenazas biológicas y nucleares.
Pero el marco geopolítico aparece como un obstáculo para el desacelere. El propio Cruz dijo que las regulaciones no deben afectar a Estados Unidos en su “carrera de la IA contra China”.
“Podríamos hacer que el gobierno interviniera y simplemente parara la industria de la IA en Estados Unidos, ¿y sabes qué pasaría? China alcanzaría en seis meses y avanzaría, y no tendríamos las herramientas para defendernos”, dijo.
La Política Online