Idée super fascinante dans ce nouveau @Googleepmind Paper – montre comment gérer la montée des agents de l'IA qui agissent comme des acteurs indépendants dans l'économie.
Si vous restez désactivé, ces agents créeront leur propre économie, qui se connecte directement à l'humain, ce qui pourrait apporter des avantages et des risques.
Les auteurs proposent de construire une “économie de bac à sable” qui est un espace contrôlé dans lequel les agents peuvent agir et se coordonner sans nuire à l'économie humaine plus large.
Un grand objectif est de la perméabilité, ce qui signifie à quel point ce sable est ouvert ou fermé pour le monde extérieur. Une torture à risque entièrement ouverte et l'instabilité qui va dans l'économie humaine, tandis qu'un système entièrement fermé peut être sûr mais moins utile.
Ils proposent d'utiliser des enchères où les agents offrent des foires pour des ressources telles que les données, le calcul ou les outils. Si vous ressemblez à tous les agents des mêmes budgets de démarrage, vous pouvez compenser le pouvoir et prévenir les avantages injustes.
Pour les objectifs plus importants, ils proposent des économies de mission dans lesquelles de nombreux agents se coordonnent pour un résultat commun, par ex. B. La solution à un problème scientifique ou social.
Les risques qu'ils marquent sont des négociations très rapides de l'agent, avec lesquelles les gens ne peuvent pas suivre, fraude ou attaques contre les agents et les groupes puissants qui dominent les ressources.
Pour réduire ces risques, vous pouvez appeler à des systèmes d'identité et de réputation à l'aide d'outils tels que les informations d'enregistrement numérique, la preuve de personnalité, les zéro-connaissances et les sentiers d'audit en temps réel.
Le message principal est que nous devrions maintenant concevoir les règles de ces marchés d'agent afin qu'ils grandissent en toute sécurité et équitablement au lieu du hasard.
C'est de Rohan Paul, bien que le journal de Nenad Tomasev et al. Ce serait dommage que les économistes négligent peut-être le problème de conception du mécanisme le plus important (et le plus intéressant) pour nous.
Le résumé postal d'un nouvel article DeepMind est initialement apparu dans la révolution Edge.
#Résumé #d39un #nouveau #papier #DeepMind
