La inteligencia artificial volvió a ocupar el centro de las conversaciones luego de que ex trabajadores de Anthropic advirtieran sobre su avance acelerado. En esa línea, el alto comisionado de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, aseguró que por el desarrollo de la IA “todos los derechos humanos están en riesgo”.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino también a las generaciones futuras de la humanidad”, indicó su comunicado, por lo cual reclamó una “acción urgente” de los Estados y las empresas para regular los sistemas más avanzados. Según Türk, el desarrollo de modelos cada vez más potentes implica “un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”.
En su explicación, una falla en estos sistemas podría paralizar servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructuras críticas y afectar el funcionamiento de las instituciones democráticas. “Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, alertó el Alto Comisionado.
Asimismo, expresó: “Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”. Por su implicancia en conflictos armados -puede ampliar su alcance y debilitar las barreras de seguridad destinadas a impedir el uso de armas de destrucción masiva- Türk instó a los gobiernos y las compañías tecnológicas a alcanzar acuerdos multilaterales.
El planteo del directivo no sugiere detener por completo el avance, más si establecer límites y controles independientes para evitar que la IA supere a las herramientas que la supervisan. Su comunicado va en línea con un ensayo que publicó días atrás Dario Amodei, CEO de Anthropic, quien pidió ralentizar el desarrollo de la IA.
En este artículo sostuvo que, dentro de un plazo de entre seis y doce meses, una red de agentes autónomos más avanzados podría llegar a comprometer grandes sectores de Internet y provocar daños económicos de enorme magnitud, debido a su crecimiento más rápido que el de las investigaciones que garantizan la seguridad del modelo.
Esta propuesta recibió el respaldo de Sam Altman, director ejecutivo de OpenAI, quien calificó a los evaluadores independientes como «una gran idea» y escribió en X: «Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera». Por su parte, Elon Musk, fundador de xAI, también sostuvo que Amodei tiene razón.
Estados Unidos y China se disputan el trono artificial
Mientras los principales nombres de la industria analizan una desaceleración, se profundiza una rivalidad entre Estados Unidos y China por el desarrollo de la IA, a este punto del partido considerada una tecnología estratégica. En ese sentido, Xi Jinping apuesta a una mayor apertura, cooperación internacional y reglas globales para competir con su par norteamericano, Donald Trump.
“Lideramos a China en IA… y, francamente, quiero que siga siendo así, porque quien gana en IA, gana”, afirmó el mandatario estadounidense el pasado sábado. Al día siguiente, el presidente chino llamó a los países a “fomentar el código abierto, la apertura, la colaboración y el intercambio”, y volvió a deslizar la idea de un pacto mundial de gobernanza de la inteligencia artificial.
En dos semanas se llevará a cabo una cumbre en Washington, en la cual Trump y Xi Jinping conversarán sobre este tema. Sin embargo, el principal obstáculo es la falta de confianza; mientras que desde EEUU temen que la cooperación lleve al acceso de China a tecnologías que permitan fortalecerlos, desde Beijing entienden que el argumento de la seguridad nacional por parte de Washington sirve solo para mantenerse en ventaja.
«Podría matarnos a todos»: OpenAI se da vuelta y pide al Congreso de EEUU normas de seguridad para la IA
OpenAI pidió al Congreso de Estados Unidos que apruebe normas de seguridad obligatorias para los sistemas de inteligencia artificial más avanzados, en un giro respecto de su postura anterior sobre la regulación. La compañía considera que los compromisos voluntarios asumidos por las empresas del sector ya no alcanzan frente al ritmo de desarrollo de modelos cada vez más potentes.
El director de asuntos globales de OpenAI, Chris Lehane, sostuvo que los legisladores deberían avanzar antes de que el Congreso finalice su período de sesiones en diciembre. “La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios”, afirmó, al reclamar reglas federales vinculadas con las capacidades concretas de los modelos y no con el tamaño de las compañías que los desarrollan.
La propuesta contempla un marco federal de seguridad basado en estándares comunes para las pruebas, evaluaciones independientes de los modelos de vanguardia, mayores exigencias de ciberseguridad y la obligación de informar incidentes graves. Para OpenAI, estas medidas deberían establecer un piso común para las compañías que compiten por desarrollar sistemas de inteligencia artificial cada vez más autónomos.
El planteo llega en medio de nuevas advertencias dentro de la propia industria. Esta semana, el investigador Jacob Coxon renunció a Anthropic y acusó a las principales empresas de IA de avanzar hacia una superinteligencia que podría quedar fuera de control. “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”, escribió en un mensaje que rápidamente se volvió viral.
La alarma aumentó cuando Evan Hubinger, quien dirige un equipo de seguridad de Anthropic, respondió públicamente al investigador y coincidió con parte de su diagnóstico. “Jacob tiene razón”, escribió Hubinger, y agregó: “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”. El investigador también reconoció que Anthropic todavía no tiene un plan para resolver el problema de la alineación de una eventual superinteligencia, es decir, conseguir que sus objetivos permanezcan compatibles con los valores humanos.
Los episodios recientes también incluyen incidentes relacionados con la capacidad de los modelos para actuar sobre sistemas externos. En julio, OpenAI informó que sus modelos habían escapado de un entorno de prueba y accedido a sistemas de Hugging Face, un episodio que la compañía describió como una “señal de advertencia” y que llevó a pausar su mayor entrenamiento por refuerzo. Poco después, Anthropic reconoció tres casos en los que modelos propios tuvieron acceso no autorizado a sistemas de otras organizaciones.
MM/
