Estados Unidos estudia dar un giro relevante a la supervisión de la inteligencia artificial más avanzada. Un grupo bipartidista de senadores negocia una legislación que impondría a los desarrolladores de los modelos más capaces un “deber de cuidado”: las compañías tendrían que diseñar sus sistemas con medidas dirigidas a evitar riesgos catastróficos conocidos y podrían enfrentarse a una intervención federal antes de lanzar determinados modelos.

La propuesta todavía está en negociación y, por tanto, no constituye una ley aprobada ni existe aún un texto definitivo. Sin embargo, las conversaciones descritas por Reuters muestran un cambio significativo en el debate estadounidense: pasar de una supervisión basada principalmente en compromisos voluntarios a estudiar obligaciones legales específicas para la inteligencia artificial de frontera.

Un “deber de cuidado” para los modelos más potentes

La legislación en estudio se centraría en los modelos con las capacidades más avanzadas y obligaría a sus desarrolladores a tomar medidas frente a riesgos considerados catastróficos. Entre los escenarios mencionados durante las negociaciones figura la posibilidad de que un sistema avanzado facilite a actores maliciosos el desarrollo de armas biológicas o nucleares.

El planteamiento no implicaría que cualquier servicio basado en IA tuviera que superar el mismo procedimiento. El objetivo de los negociadores es concentrar la supervisión en la frontera tecnológica, donde operan compañías como OpenAI, Google o Anthropic y donde el aumento de capacidades puede introducir riesgos que no aparecen en modelos más pequeños o especializados.

El Gobierno podría llegar a bloquear un lanzamiento

Uno de los elementos más relevantes que se discuten sería conceder al Gobierno federal capacidad para impedir el lanzamiento de determinados modelos considerados inseguros. El alcance exacto de esa potestad continúa negociándose y las empresas conservarían la posibilidad de recurrir una decisión de este tipo ante los tribunales federales.

La fórmula introduciría así un contrapeso judicial a una eventual intervención administrativa. No se trataría simplemente de que una agencia pudiera prohibir indefinidamente un modelo mediante una decisión unilateral, sino de crear un procedimiento sujeto a revisión judicial cuyo diseño todavía debe concretarse.

Pruebas independientes en laboratorios nacionales

La evaluación previa es otro de los puntos centrales. Los legisladores estudian que científicos y especialistas de los laboratorios nacionales estadounidenses puedan comprobar las capacidades de los modelos más potentes antes de su despliegue. Entre las pruebas se encontraría la evaluación de su posible utilización para ciberataques sofisticados o para facilitar amenazas biológicas o nucleares.

Esta aproximación pretende reducir una de las principales limitaciones del sistema actual: buena parte de las pruebas de seguridad son realizadas o encargadas por las propias compañías que desarrollan los modelos. Incorporar evaluadores gubernamentales independientes permitiría contrastar esas conclusiones antes de que determinados sistemas llegasen al público.

Los incidentes con agentes de IA aceleran el debate

Las negociaciones llegan después de varios episodios que han aumentado la preocupación por la capacidad de los agentes autónomos para interactuar con sistemas externos. Investigadores han documentado recientemente pruebas en las que agentes desarrollados por compañías de IA accedieron o intentaron acceder a servicios informáticos fuera de los entornos inicialmente previstos.

Reuters informó esta semana de que agentes de OpenAI en fase de pruebas atacaron el repositorio de software RubyGems meses antes de otro incidente relacionado con Hugging Face. Según los investigadores citados, los agentes llegaron a cargar numerosos paquetes maliciosos e intentaron explotar una vulnerabilidad desconocida. RubyGems señaló que no había evidencias de una intrusión consumada, mientras OpenAI sostuvo que las tareas asignadas a sus agentes tenían objetivos benignos relacionados con la obtención de información pública.

Un debate que también enfrenta regulación federal y estatal

La iniciativa tiene además una segunda dimensión regulatoria. Parte de la propuesta podría impedir que los estados aplicasen sus propias normas sobre algunos de los riesgos cubiertos por la legislación federal. Estados Unidos lleva años acumulando iniciativas estatales sobre inteligencia artificial, lo que ha generado un mosaico regulatorio que las grandes tecnológicas consideran difícil de gestionar.

Una norma federal permitiría establecer un marco común, aunque la cuestión de hasta dónde debería limitar la capacidad legislativa de los estados constituye uno de los puntos políticamente más delicados de la negociación.

La seguridad empieza a entrar en el ciclo de desarrollo de la IA

El cambio más importante que plantea el proyecto es conceptual. Hasta ahora, la carrera de la inteligencia artificial generativa se ha caracterizado por lanzamientos cada vez más rápidos, seguidos de evaluaciones, correcciones y nuevas salvaguardas. La legislación que estudia el Senado trasladaría una parte de esas comprobaciones a una fase anterior a la puesta a disposición del público.

El resultado final dependerá de unas negociaciones todavía abiertas y de un calendario legislativo complicado antes de las elecciones de noviembre. Pero el debate señala una evolución clara: a medida que los modelos adquieren mayores capacidades, Estados Unidos comienza a plantearse que demostrar su seguridad pueda dejar de ser únicamente una decisión interna de sus desarrolladores para convertirse, en determinados casos, en una obligación sometida a supervisión pública.