Ou plus précisément Nenad Tomašev, Matija Franklin, Julian Jacobs, Sébastien Krier et Simon Osindero :

La recherche sur la sécurité et le ciblage de l’IA s’est principalement concentrée sur les méthodes permettant de protéger les systèmes d’IA individuels et repose sur l’hypothèse qu’une intelligence générale artificielle (AGI) monolithique finira par émerger. L’hypothèse alternative de l’émergence des AGI, dans laquelle les niveaux de compétences généraux se manifestent initialement par la coordination de groupes d’agents individuels sous-AGI dotés de compétences et de moyens complémentaires, a reçu beaucoup moins d’attention. Nous soutenons ici que cette hypothèse disparate de l’AGI doit être examinée sérieusement et devrait éclairer l’élaboration de garanties et de remèdes appropriés. Le déploiement rapide d’agents d’IA avancés dotés de capacités d’utilisation d’outils et de capacités de communication et de coordination en fait une considération urgente en matière de sécurité. Nous proposons donc un cadre pour la sécurité AGI distribuée qui va au-delà de l’évaluation et du ciblage d’agents individuels. Ce cadre se concentre sur la conception et la mise en œuvre d’économies sandbox d’agents virtuels (opaques ou semi-perméables) dans lesquelles les transactions d’agent à agent sont régies par des mécanismes de marché robustes, associés à une auditabilité, une gestion de la réputation et une surveillance appropriées pour atténuer les risques collectifs.

Voici le lien, c'est l'une des œuvres les plus importantes de notre époque. Voici le précédent post de MR sur Krier.

Le post Séb Krier, suite est apparu en premier sur Marginal REVOLUTION.

#Séb #Krier #suite