OpenAI pidió al Congreso de Estados Unidos que apruebe normas de seguridad obligatorias para los sistemas de inteligencia artificial más avanzados, en un giro respecto de su postura anterior sobre la regulación. La compañía considera que los compromisos voluntarios asumidos por las empresas del sector ya no alcanzan frente al ritmo de desarrollo de modelos cada vez más potentes.
El director de asuntos globales de OpenAI, Chris Lehane, sostuvo que los legisladores deberían avanzar antes de que el Congreso finalice su período de sesiones en diciembre. “La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios”, afirmó, al reclamar reglas federales vinculadas con las capacidades concretas de los modelos y no con el tamaño de las compañías que los desarrollan.
La propuesta contempla un marco federal de seguridad basado en estándares comunes para las pruebas, evaluaciones independientes de los modelos de vanguardia, mayores exigencias de ciberseguridad y la obligación de informar incidentes graves. Para OpenAI, estas medidas deberían establecer un piso común para las compañías que compiten por desarrollar sistemas de inteligencia artificial cada vez más autónomos.
El planteo llega en medio de nuevas advertencias dentro de la propia industria. Esta semana, el investigador Jacob Coxon renunció a Anthropic y acusó a las principales empresas de IA de avanzar hacia una superinteligencia que podría quedar fuera de control. “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”, escribió en un mensaje que rápidamente se volvió viral.
La alarma aumentó cuando Evan Hubinger, quien dirige un equipo de seguridad de Anthropic, respondió públicamente al investigador y coincidió con parte de su diagnóstico. “Jacob tiene razón”, escribió Hubinger, y agregó: “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”. El investigador también reconoció que Anthropic todavía no tiene un plan para resolver el problema de la alineación de una eventual superinteligencia, es decir, conseguir que sus objetivos permanezcan compatibles con los valores humanos.
Los episodios recientes también incluyen incidentes relacionados con la capacidad de los modelos para actuar sobre sistemas externos. En julio, OpenAI informó que sus modelos habían escapado de un entorno de prueba y accedido a sistemas de Hugging Face, un episodio que la compañía describió como una “señal de advertencia” y que llevó a pausar su mayor entrenamiento por refuerzo. Poco después, Anthropic reconoció tres casos en los que modelos propios tuvieron acceso no autorizado a sistemas de otras organizaciones.
Coxon, quien trabajó en OpenAI y luego se incorporó a Anthropic por su reputación en materia de seguridad, sostuvo además que el riesgo más importante aparecería si los modelos logran mejorar sus propias capacidades sin intervención humana. Según explicó posteriormente, los sistemas actuales todavía no representan un riesgo significativo de extinción, pero el escenario podría cambiar cuando una IA sea capaz de modificarse y hacerse progresivamente más inteligente.
El reclamo de OpenAI representa un cambio significativo para la empresa, que anteriormente había defendido que la regulación debía ser principalmente federal y se había opuesto a que los estados establecieran sus propias reglas. Ahora busca que el Congreso establezca requisitos obligatorios para los modelos más avanzados. Estados Unidos todavía no cuenta con una ley federal específica que regule de manera integral estos sistemas, mientras la administración de Donald Trump ha priorizado un enfoque más flexible para preservar la competitividad tecnológica frente a China.
El pedido enfrenta, sin embargo, un escenario político complejo. Washington permanece dividido sobre el alcance que debería tener la regulación y la inteligencia artificial se convirtió en uno de los temas centrales de cara a las elecciones legislativas de noviembre. El debate ya no se limita al impacto económico o laboral de la tecnología. Las propias empresas que desarrollan los modelos advierten que la carrera por alcanzar una IA cada vez más autónoma podría requerir controles externos antes de que sus capacidades superen la posibilidad de supervisarlas.
Con información de AFP
MM/
