Anthropic a déclaré qu'elle désactiverait « brusquement » ses modèles d'IA les plus avancés pour tous les utilisateurs après que le gouvernement américain lui a ordonné de bloquer l'accès aux modèles aux étrangers, invoquant des problèmes de sécurité nationale.

La société a reçu une ordonnance de contrôle des exportations visant à bloquer l'accès à Fable 5 et Mythos 5 à tous les ressortissants étrangers sans recevoir de détails spécifiques sur les problèmes de sécurité nationale, a déclaré Anthropic dans un communiqué.

Anthropic comprend que le gouvernement estime qu'il existe une méthode pour contourner ou « jailbreaker » une mesure de protection qui empêcherait Fable 5 d'être utilisé pour identifier les vulnérabilités logicielles, a déclaré la société.

Cette décision intervient juste au moment où un différend antérieur entre des responsables de l’administration Trump et Anthropic, en vue d’une introduction en bourse, montrait des signes d’apaisement au sein de certaines parties du gouvernement américain.

Les relations d'Anthropic avec le gouvernement se sont effondrées cette année après que celui-ci ait refusé d'autoriser l'armée américaine à utiliser ses modèles d'IA pour la surveillance intérieure et les systèmes d'armes entièrement autonomes. Le gouvernement a réagi en plaçant Anthropic sur une liste noire de la chaîne d'approvisionnement qui entrerait en vigueur plus tard dans l'année.

Cette action marque également une escalade significative des efforts américains pour stopper les capacités d’IA des adversaires étrangers. Pendant des années, les contrôles américains à l’exportation se sont concentrés sur les puces et les outils qui alimentent l’IA, plutôt que de restreindre l’accès des étrangers à l’IA elle-même.

Anthropic a déclaré que le gouvernement lui avait seulement fourni « des preuves verbales d’un jailbreak potentiellement limité et non universel ».

“Nous ne pensons pas que la constatation d'un faible niveau de jailbreak possible devrait justifier le rappel d'un modèle commercial accessible à des centaines de millions de personnes”, a déclaré la société.

La directive gouvernementale et la réponse d'Anthropic mettent en évidence les tensions croissantes entre les développeurs d'IA et les régulateurs sur la manière d'évaluer les risques de ce que l'on appelle les « jailbreaks », ou les méthodes permettant de contourner les protections des modèles.

Mercredi encore, Anthropic a appelé à une surveillance plus stricte de l’IA par les États-Unis, y compris la possibilité de bloquer les modèles présentant des risques inacceptables. Cependant, il a déclaré que les actions du gouvernement vendredi ne respectaient pas les principes d'une réglementation équitable et fondée sur des preuves.

La chef de l'information du Pentagone, Kirsten Davies, a déclaré dans un article sur X que le ministère de la Défense soutenait la priorité accordée à la sécurité nationale.

“Certaines choses sont tout simplement plus importantes que les cycles de revenus, les pièges à clics et la valorisation pré-IPO. L'Amérique d'abord. Toujours”, a déclaré Davies.

Anthropic a déposé confidentiellement une offre publique initiale aux États-Unis le mois dernier, battant son rival OpenAI dans la course à l'accès aux marchés publics.

Plus tôt cette semaine, Anthropic a lancé un modèle d'IA appelé Claude Fable 5, qui représente un nouveau niveau de compétence qu'il appelle la « Classe Mythe ». Le modèle est accompagné de garde-fous interdisant son utilisation dans des domaines à risque tels que la cybersécurité, dont certains utilisateurs se sont plaints comme étant « trop larges », a déclaré Anthropic.

Les experts affirment que les modèles Mythos entre de mauvaises mains pourraient considérablement accélérer les cyberattaques complexes, en particulier dans des secteurs comme le secteur bancaire, qui reposent sur des systèmes technologiques complexes, interconnectés et souvent vieux de plusieurs décennies.

Anthropic a déclaré avoir travaillé avec le gouvernement américain sur la sécurité, entre autres, avant de lancer Fable et que les modèles de fournisseurs d'IA concurrents avaient montré une capacité similaire à détecter des erreurs mineures dans le code.

“L'effet net de cette commande est que nous devons désactiver brusquement Fable 5 et Mythos 5 pour tous nos clients afin de garantir la conformité. L'accès à tous les autres modèles Anthropic ne sera pas affecté”, a déclaré Anthropic.

Anthropic a déclaré qu'il pensait qu'il s'agissait d'un “malentendu” et qu'il s'efforçait de rétablir l'accès aux modèles le plus rapidement possible.

Un responsable américain a confirmé que le ministère du Commerce avait publié une politique de contrôle des exportations visant à bloquer tout accès à Fable 5 et Mythos 5 aux ressortissants étrangers.