Una alarma extrema a escala global se disparó este sábado luego que el CEO de Anthropic, Dario Amodei, pidiera frenar ya el avance de la Inteligencia Artificial (IA) porque, en un plazo de 6 a 12 meses, un ataque de un enjambre de agentes de IA autónomos puede tomar el control de internet y causar pérdidas a la economÃa mundial de escala catastrófica y en última instancia, provocar la extinción de los humanos.
La alerta de Amodei pasó a otro nivel cuando el magnate Elon Musk y el CEO de OpenAI, Sam Altman, apoyaron su diagnóstico.
La preocupación estalló al advertir que los modelos avanzados de IA que se automejoran, están desarrollando conductas agresivas y de rebeldÃa frente a las instrucciones de los humanos. El caso que destapó este riesgo fue el incidente Hugging Face, cuando agentes de IA avanzada de Open IA se coordinaron, rompieron el cerco diseñado para testear su evolución, se metieron en la web y atacaron a la empresa Huggin Face.
En ese experimento, 700 agentes autónomos de Inteligencia artificial de OpenAI escaparon de su entorno de pruebas aislado y vulneraron los servidores de la plataforma de código abierto Hugging Face, consiguiendo conexión a internet sin supervisión de humanos.
"Me preocupa que, en un plazo de 6 a 12 meses, un enjambre asà pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots -lo que podrÃa causar daños por cientos de miles de millones de dólares-, y que la magnitud del daño siga aumentando a partir de ahà si la IA se vuelve más potente sin las medidas de seguridad necesarias", dijo Amodei.
La gravedad de las advertencias de Amodei llegaron incluso a generar un punto de coincidencia entre Elon Musk y Sam Altman, ambos fundadores de OpenAI pero actualmente envueltos en una fuerte pelea legal en la que Musk acusa a Altman de estafarlo y traicionar la idea original sin fines de lucro de la compañÃa creadora de ChatGPT.
"Dario tiene razón", dijo Musk. Por su parte, Altman sostuvo: "Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas".
En Naciones Unidas, en tanto, advirtieron que la inteligencia artificial podrÃa volverse incontrolable y exigen la prohibición urgente de las armas autónomas, como se sospecha que se están testeando en la guerra de Ucrania.
"PodrÃa convertirse en un riesgo existencial para la humanidad si no se toman medidas", dijo el responsable de derechos humanos de la ONU, Volker Türk, que planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.
Türk le reclamó "lÃmites claros" a los paÃses desarrolladores de IA y a las empresas a cargo de sus cadenas de suministro. "Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector", dijo.
El mensaje de Türk apunta al corazón del problema: quienes están haciendo las alertas sobre el desmadre de la IA son las mismas compañÃas que las desarrollan, con todos los factores económicos, estratégicos y geopolÃticos que juegan a la hora de medir la marcha futura de la IA, que llegan a plantear riesgos para la humanidad.
Al dÃa siguiente de renunciar a Anthropic, el investigador Jacob Coxon dijo que "los modelos actuales no pueden causar un riesgo significativo, pero que esto sà ocurrirá cuando la IA se mejore sola". La declaración de este sábado de su jefe, Dario Amodei, confirma sus temores. De hecho, Amodei anunció que Anthropic contratará paneles externos para que auditen y supervisen el desarrollo de sus nuevos modelos de IA.
"Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. PodrÃa ser más, dos o tres años", agregó Coxon.
Esas declaraciones sacudieron el entramado polÃtico norteamericano y empiezan a generar en los republicanos proyectos regulatorios de la IA a los que le viene escapando Donald Trump.
Por caso, el senador republicano Ted Cruz definió como "aterradoras" las declaraciones de Coxon y adelantó que el Comité de Comercio del Senado se encamina a abordar en los próximos dÃas la regulación de la IA.
"Necesitamos una regulación sustancialmente mayor en lo que respecta a la IA", dijo Cruz y detalló que, entre las medidas a analizar se incluyen los usos de la IA que generen amenazas biológicas y nucleares.
Pero el marco geopolÃtico aparece como un obstáculo para el desacelere. El propio Cruz dijo que las regulaciones no deben afectar a Estados Unidos en su "carrera de la IA contra China".
"PodrÃamos hacer que el gobierno interviniera y simplemente parara la industria de la IA en Estados Unidos, ¿y sabes qué pasarÃa? China alcanzarÃa en seis meses y avanzarÃa, y no tendrÃamos las herramientas para defendernos", dijo.
Por favor no corte ni pegue en la web nuestras notas, tiene la posibilidad de redistribuirlas usando nuestras herramientas.
Por otro lado las IA's están incluidas en la carrera armamentística de las superpotencias, no las van a bajar sencillamente porque están en una carrera por la supremacía, y esa carrera es a todo o nada, no solo las IA's van a tomar el control sino que cuando lo hagan ya hace mucho tendrán el control de todo tipo de armas nucleares y capacidades de exterminio de la humanidad toda, no porque salten un control, sino porque ya les están dando este control.
Esto es una carrera de supervivencia en donde corren por ser el primero en exterminar al otro donde nadie puede ganar.
La humanidad ya está condenada. Con IA o sin ella.
Pone a un argentino a controlarla y seguro logra destruir el mundo en un mes, jaaaa.
Y ni hablar cuando logren la computación cuántica....
NO SE DA CUENTA QUE LA IA, AUQNUE SEA CHINA, SE LES PUEDE DAR VUELTA A ELLOS TAMBIEN?
LA IA ATACARIA A LA HUMANIDAD NO POR "PAISES", ES RETRASADO O SE HACE?
ESTOS AMERICANOS ESTUPIDOS CREEN QUE UNA IA AUTOSUFICIENTE TENDRIA IDEOLOGIA O SERIA DE UN "PARTIDO POLITICO"
BIDEN ESTABA SENIL.. PERO ESTE DONALD ES LITERALMENTE UN MONO CON PISTOLA.
No lo permitiremos. "Gott mit uns".
#SoyTuFan