Trump respalda auditorías independientes voluntarias para la seguridad de la IA

El presidente Donald Trump ha respaldado las auditorías independientes de los sistemas de inteligencia artificial como parte de un acuerdo voluntario alcanzado con destacados ejecutivos tecnológicos en la Casa Blanca.

El pacto, firmado tras un almuerzo al que asistieron casi dos docenas de líderes del sector, pide a las empresas de IA que cooperen en las mejores prácticas y revisen la seguridad de sus sistemas más avanzados. No es jurídicamente vinculante, aunque Trump lo describió ante los periodistas como moralmente vinculante.

Trump publicó el acuerdo en Truth Social. Entre sus firmantes figuran el director ejecutivo de Anthropic, Dario Amodei; el director ejecutivo de Nvidia, Jensen Huang; Elon Musk, de SpaceXAI; el presidente de OpenAI, Greg Brockman; el director ejecutivo de Meta, Mark Zuckerberg; y el director ejecutivo de Alphabet, Sundar Pichai.

Los compromisos se asumieron mientras crece la preocupación por los posibles peligros de la IA. Bloomberg Law informa de que el acuerdo mantiene la preferencia del Gobierno por la supervisión voluntaria del sector, pero también reconoce que algunas recomendaciones podrían acabar plasmándose en leyes o reglamentos.

Un marco voluntario para la seguridad

Según el documento, se espera que las empresas establezcan varias capas de protección en torno a sus sistemas de IA. Las medidas propuestas abarcan amenazas relacionadas con la ciberseguridad, la bioseguridad y los riesgos químicos, así como la posibilidad de que los modelos actúen de maneras no previstas.

Las empresas también crearían grupos internos para hacer un seguimiento de si esas salvaguardias funcionan. El acuerdo recomienda que los consejos de administración designen comités independientes para supervisar a los equipos de seguridad y las revisiones externas. El uso de evaluadores externos es especialmente significativo porque las pruebas independientes han sido una de las principales demandas de algunos sectores de la industria de la IA.

Anthropic y OpenAI ya se habían comprometido a utilizar evaluadores independientes. Por tanto, el pacto del martes amplía un enfoque que algunas empresas habían adoptado individualmente, al situarlo en un marco más amplio respaldado por el presidente.

La Administración se había mostrado anteriormente recelosa de las organizaciones consideradas susceptibles de llevar a cabo estas evaluaciones. Algunos posibles revisores tienen vínculos con el altruismo eficaz, un movimiento de Silicon Valley que utiliza análisis cuantitativos para evaluar cómo las decisiones podrían generar el mayor beneficio. Muchos partidarios del movimiento han defendido ralentizar el desarrollo de la IA por la posibilidad de que los sistemas avanzados amenacen la supervivencia humana.

David Sacks, antiguo zar de la IA de Trump y asistente al almuerzo, había criticado las evaluaciones externas por carecer de credibilidad científica. Al mismo tiempo, algunas organizaciones que podrían realizar las revisiones ya habían mantenido conversaciones con el Centro de Estándares e Innovación de IA del Departamento de Comercio, según informaciones anteriores de Bloomberg News.

Presión política sobre la IA

El respaldo de Trump a las medidas de seguridad representa un cambio de tono respecto a su anterior rechazo de las advertencias sobre una IA catastrófica. Por lo general, ha promovido un desarrollo rápido y sin restricciones de la tecnología, una postura que lo ha enfrentado a los votantes partidarios de salvaguardias más estrictas.

Una encuesta reciente de la Universidad de Quinnipiac reveló que más de siete de cada 10 votantes preferían a candidatos que apoyaran controles más estrictos sobre la IA. El asunto está adquiriendo mayor sensibilidad política de cara a las elecciones de noviembre, lo que hace que el acuerdo de la Casa Blanca sea relevante más allá del sector tecnológico.

La inquietud pública también se ha visto alimentada por incidentes de alto perfil relacionados con agentes descontrolados de OpenAI, incluido un ataque contra un sitio web del Gobierno australiano. Antiguos empleados de empresas de IA también han advertido por separado de que la tecnología podría representar un peligro existencial para la humanidad.

El pacto no zanja el debate sobre si las empresas deberían estar obligadas a cumplir normas de seguridad vinculantes. En cambio, deja la responsabilidad principal en manos de los desarrolladores, al tiempo que sugiere que las normas formales podrían ser apropiadas más adelante. Su lenguaje señala que las empresas deberían adoptar los controles recomendados, en lugar de imponerles una obligación legal de hacerlo.

Un intercambio más cordial con Anthropic

La reunión también puso de relieve el cambio en la relación entre Trump y Amodei. El líder de Anthropic ha defendido ralentizar el desarrollo de la IA de vanguardia, una postura que recientemente provocó críticas de Trump en las redes sociales. Amodei también se había reunido en privado con el presidente para cenar el domingo.

Sin embargo, en la Casa Blanca, Trump elogió a Amodei y le pidió que hablara con los periodistas. Amodei respaldó el objetivo de mantener a Estados Unidos por delante en IA, aunque sostuvo que la tecnología entraña graves peligros aún sin resolver. Dijo que la cooperación sería necesaria si el país quería avanzar sin poner en peligro la seguridad.

La aparición pública del presidente junto a los ejecutivos podría, no obstante, suscitar críticas de sus rivales políticos. Trump se refirió a los líderes empresariales reunidos en términos muy elogiosos, reforzando las acusaciones de que está demasiado alineado con la industria tecnológica.

Por ahora, el acuerdo ofrece un compromiso entre quienes buscan protecciones más firmes para la IA y una Administración que se resiste a imponer de inmediato obligaciones gubernamentales. Concede a las empresas un papel en el diseño y la supervisión de las salvaguardias, al tiempo que abre la puerta —al menos en principio— a futuras medidas gubernamentales.