Vous le savez probablement tous :

Le gouvernement américain, citant les autorités de sécurité nationale, a publié une politique de contrôle des exportations pour interdire tout accès à Fable 5 et Mythos 5 à tous les ressortissants étrangers à l'intérieur ou à l'extérieur des États-Unis, y compris les employés étrangers d'Anthropic. L'effet net de cet arrangement est que nous devons désactiver brusquement Fable 5 et Mythos 5. tous nos clients pour assurer la conformité.

Selon des informations non confirmées mais probablement vraies, il a été révélé que le modèle pourrait être jailbreaké. Le mythe a publié des requêtes de bio et d'”amélioration de l'IA” déjà limitées, et assez sévèrement, nous revenons donc maintenant au modèle indisponible.

Voici quelques-unes des restrictions imposées par le gouvernement américain, et pas les seules que je pourrais ajouter :

1. Les entreprises essentielles doivent rester en activité. De plus, il souhaite que leurs introductions en bourse se déroulent raisonnablement bien. Et il est désormais beaucoup plus difficile pour les grandes entreprises de recruter des étrangers, qui constituent une part importante de leur main-d'œuvre hautement qualifiée (Demis, Ilya, Andrej par exemple). Il est également beaucoup plus difficile pour les grandes entreprises de développer de manière crédible et durable leurs activités à l’étranger.

1b. Comment les multinationales américaines opérant à l’étranger devraient-elles utiliser les meilleurs systèmes à l’avenir ?

2. L'accès aux modèles doit être utilisé à la fois comme un outil à puissance matérielle et douce, l'accès aux modèles doit donc être possible à un certain niveau. Mais il est très difficile de contrôler ce que les agents étrangers feront de leur accès partiel au modèle s’ils le reçoivent à l’avenir.

3. Les États-Unis doivent garder une longueur d'avance sur la Chine dans la compétition en matière d'IA.

4. Les États-Unis doivent adopter des restrictions qui soient réellement applicables, et « citoyens américains uniquement » ne correspond pas à cette loi. De plus (les marchés dans tout !), il est assez facile d’embaucher un traître américain pour avoir accès à des outils permettant de commettre des actes répréhensibles, ou il n’est pas difficile de simuler la citoyenneté de diverses manières.

5. Le gouvernement américain ne peut pas nationaliser ces entreprises et continuer ensuite à les gérer efficacement.

6. Les modèles open source chinois et autres s’améliorent en fait assez rapidement, même s’ils sont actuellement loin derrière les meilleurs modèles propriétaires.

Le scénario le plus probable est-il que le gouvernement renforce certains de ses propres systèmes, prenne quelques précautions supplémentaires, puis autorise la réédition de Mythos ? Peut-être avec quelques mesures de sécurité supplémentaires ?

Existe-t-il un modèle qui ne soit pas du tout jailbreakable ? J'en doute.

Essentiellement, nous répéterons ce scénario encore et encore au fil du temps, mais à chaque fois les entreprises et le gouvernement se retrouveront dans une position plus faible et plus précaire.

Je suis prêt à rejeter la philosophie du « safetyisme » et à mordre les balles qui y sont associées. Dans l’état actuel des choses, ces mesures ne contribueront pas à accroître notre sécurité, même pour les raisons mentionnées ci-dessus. Nos institutions, attitudes et approches réglementaires ne sont tout simplement pas adaptées à une époque d’innovation radicale.

En tout cas, ces événements ne me surprennent pas (mais ils me surprennent par leur immédiateté) puisque des gouvernements de ce type travaillent ensemble depuis longtemps, y compris le gouvernement américain ou peut-être surtout le gouvernement américain.

Montée en statut: Léopold, Ésope et aussi Mistral. Nationalisme de l’IA. Les partisans d’un démarrage lent comme scénario probable. Des PDG réservés et silencieux. Quant à la Chine : profiteront-ils de cette opportunité ou ont-ils au moins aussi peur que nous ?