Les accords engagent les entreprises à “mettre en œuvre des contrôles internes rigoureux” pour surveiller les capacités des modèles d’IA, à collaborer avec des auditeurs externes et à créer des comités indépendants chargés d’examiner leurs rapports. Certains démocrates et défenseurs de la sécurité de l’IA les ont critiqués, estimant qu’ils sont inapplicables et reposent principalement sur un accord mutuel.

“L’idée n’est pas que ce soit la seule chose que nous ferons”, a souligné Mark Zuckerberg aux journalistes devant la Maison-Blanche mardi. “C’est un début, un accord auquel toute l’industrie pourrait adhérer.”

La régulation de l’IA fait débat

Donald Trump s’est montré réticent à imposer de nouveaux garde-fous à cette technologie. Il considère que les lois existantes suffiront à en atténuer les risques potentiels. “Le seul contrôle ou les seuls ‘garde-fous’ dont l’IA a besoin, c’est un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !), et les Etats-Unis en ont un qui en a à revendre”, a-t-il posté mi-septembre sur son réseau social Truth Social.

Alors que la Maison-Blanche réfléchissait à la meilleure façon de réguler l’IA, Mark Zuckerberg s’est prononcé en faveur d’une approche moins interventionniste. Au téléphone avec Donald Trump en août, le patron de Meta s’est opposé à une proposition visant à créer un organisme de régulation indépendant inspiré de la Financial Industry Regulatory Authority pour les marchés financiers.

Jensen Huang se présente en fédérateur du secteur. Lundi, Nvidia a dévoilé un nouveau système de sécurité pour l’IA qui, selon l’entreprise, aiderait à prévenir les piratages menés par des agents d’IA autonomes, comme ceux qui se sont produits récemment et qui ont été largement médiatisés.

D’autres grands dirigeants de la tech, notamment Dario Amodei, d’Anthropic, et Sam Altman, d’OpenAI, ont appelé le gouvernement à intervenir davantage pour réguler cette technologie et à ralentir son développement.

Mark Zuckerberg et Jensen Huang, eux, ont largement balayé les critiques selon lesquelles l’IA pourrait représenter un risque existentiel pour l’humanité.

Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.