Trump soutient les audits indépendants volontaires pour la sécurité de l’IA

Le président Donald Trump a approuvé des audits indépendants des systèmes d’intelligence artificielle dans le cadre d’un accord volontaire conclu avec de hauts dirigeants du secteur technologique à la Maison-Blanche.

L’accord, signé après un déjeuner auquel ont participé près de deux douzaines de dirigeants du secteur, appelle les entreprises d’IA à coopérer sur les bonnes pratiques et à examiner la sécurité de leurs systèmes les plus avancés. Il n’est pas juridiquement contraignant, même si Trump l’a décrit aux journalistes comme moralement contraignant.

L’accord a été publié par Trump sur Truth Social. Parmi ses signataires figurent le directeur général d’Anthropic, Dario Amodei, le directeur général de Nvidia, Jensen Huang, Elon Musk de SpaceXAI, le président d’OpenAI, Greg Brockman, le directeur général de Meta, Mark Zuckerberg, et le directeur général d’Alphabet, Sundar Pichai.

Ces engagements ont été pris alors que les inquiétudes concernant les dangers potentiels de l’IA grandissent. Bloomberg Law rapporte que l’accord préserve la préférence de l’administration pour une supervision volontaire du secteur, tout en reconnaissant que certaines recommandations pourraient à terme être intégrées à la législation ou à la réglementation.

Un cadre volontaire pour la sécurité

En vertu du document, les entreprises sont censées établir plusieurs niveaux de protection autour de leurs systèmes d’IA. Les mesures proposées couvrent les menaces liées à la cybersécurité, à la biosécurité et aux risques chimiques, ainsi que la possibilité que les modèles agissent de manière imprévue.

Les entreprises créeraient également des groupes internes chargés de vérifier l’efficacité de ces garde-fous. L’accord recommande que les conseils d’administration nomment des comités indépendants chargés de superviser les équipes de sécurité et les évaluations externes. Le recours à des évaluateurs externes est particulièrement important, car les tests indépendants constituent une revendication majeure de certains acteurs du secteur de l’IA.

Anthropic et OpenAI s’étaient déjà engagées à recourir à des évaluateurs indépendants. L’accord de mardi étend donc une approche que certaines entreprises avaient adoptée individuellement, en l’inscrivant dans un cadre plus large soutenu par le président.

L’administration s’était auparavant montrée méfiante envers les organisations considérées comme susceptibles de mener ces évaluations. Certains évaluateurs potentiels ont des liens avec l’altruisme efficace, un mouvement de la Silicon Valley qui utilise l’analyse quantitative pour évaluer la manière dont les décisions pourraient produire le plus grand bénéfice. De nombreux partisans de ce mouvement ont plaidé en faveur d’un ralentissement du développement de l’IA, en raison de la possibilité que des systèmes avancés menacent la survie de l’humanité.

David Sacks, l’ancien « tsar » de l’IA de Trump et l’un des participants au déjeuner, avait critiqué les évaluations externes, estimant qu’elles manquaient de crédibilité scientifique. Parallèlement, certaines organisations susceptibles de réaliser ces évaluations avaient déjà engagé des discussions avec le Center for AI Standards and Innovation du département du Commerce, selon des informations précédemment publiées par Bloomberg News.

La pression politique sur l’IA

Le soutien de Trump aux mesures de sécurité marque un changement de ton par rapport à son rejet antérieur des avertissements concernant les scénarios catastrophiques liés à l’IA. Il a généralement défendu un développement rapide et sans restriction de cette technologie, une position qui l’a mis en porte-à-faux avec les électeurs favorables à des garde-fous plus stricts.

Un récent sondage de l’université Quinnipiac a révélé que plus de sept électeurs sur 10 préféraient les candidats favorables à un renforcement des contrôles sur l’IA. La question devient de plus en plus sensible sur le plan politique à l’approche des élections de novembre, ce qui confère à l’accord de la Maison-Blanche une portée dépassant le seul secteur technologique.

Le malaise du public a également été alimenté par des incidents très médiatisés impliquant des agents hors de contrôle d’OpenAI, notamment une attaque contre un site Internet du gouvernement australien. D’anciens employés d’entreprises d’IA ont par ailleurs averti que cette technologie pourrait constituer un danger existentiel pour l’humanité.

L’accord ne tranche pas le débat sur la question de savoir si les entreprises devraient être tenues de respecter des normes de sécurité contraignantes. Il laisse au contraire la responsabilité principale aux développeurs, tout en suggérant que des règles formelles pourraient être appropriées ultérieurement. Son texte indique que les entreprises devraient adopter les contrôles recommandés, plutôt que de leur imposer une obligation légale de le faire.

Un échange plus chaleureux avec Anthropic

La réunion a également mis en lumière l’évolution de la relation entre Trump et Amodei. Le dirigeant d’Anthropic a plaidé pour un ralentissement du développement de l’IA de pointe, une position qui lui a récemment valu les critiques de Trump sur les réseaux sociaux. Amodei avait également rencontré le président en privé pour dîner dimanche.

À la Maison-Blanche, Trump a toutefois fait l’éloge d’Amodei et lui a demandé de s’adresser aux journalistes. Amodei a soutenu l’objectif de maintenir les États-Unis en tête dans le domaine de l’IA, tout en affirmant que cette technologie présente de graves dangers non résolus. Il a déclaré qu’une coopération serait nécessaire si le pays voulait progresser sans compromettre la sécurité.

L’apparition publique du président aux côtés des dirigeants pourrait néanmoins susciter les critiques de ses adversaires politiques. Trump a parlé des chefs d’entreprise réunis en des termes extrêmement élogieux, renforçant les accusations selon lesquelles il serait trop étroitement aligné sur le secteur technologique.

Pour l’instant, l’accord offre un compromis entre ceux qui réclament des protections plus strictes pour l’IA et une administration réticente à imposer immédiatement des obligations gouvernementales. Il donne aux entreprises un rôle dans la conception et la surveillance des garde-fous, tout en ouvrant la voie — du moins en principe — à une action gouvernementale future.