Je pense que c'est tout à fait vrai. Le travail le plus utile dans les années à venir consistera à utiliser l’IA pour améliorer et réformer la démocratie libérale, l’État de droit, la séparation des pouvoirs, la liberté d’expression, la coordination et les protections constitutionnelles.

Une heuristique que j'ai pour l'IA est la suivante : lorsque quelqu'un peut très facilement instancier ses préférences ou ses désirs, lorsque les problèmes des principaux agents sont considérablement réduits, lorsqu'on ne peut plus compter sur l'inefficacité ou la ballonnement comme couverture indirecte – alors les “règles du jeu” sont plus importantes que jamais.

Ce sont toutes des questions très difficiles avec ou sans IA. Il y a deux choses principales qui m'inquiètent : premièrement, l'attrait facile du populisme anti-élite – des gens qui pensent simplement : « Ayons la vétocratie partout, utilisons les émotions des masses pour des gains à court terme. »

Et deuxièmement, l’attrait d’un comportement planifié – convergence instrumentale pour les acteurs politiques. C'est plus difficile à cerner, mais c'est essentiellement une variante de “Je veux un objectif

Et au lieu d’essayer de jouer aux échecs en 4D ou de recréer une politique basée sur les premiers principes, je pense que les technologues devraient collaborer activement avec des experts de toutes sortes de disciplines : constitutionnalistes, économistes des choix publics, théoriciens des jeux, etc.

Enfin, les capacités améliorées de l’IA signifient que vous pouvez désormais utiliser ces systèmes pour plus de choses qu’auparavant. Il y a un an, je ne savais pas écrire de logiciel et maintenant je peux créer une application utilisable en une journée. Cette dynamique se poursuivra et récompensera les personnes agressives et créatives.

Êtes-vous un conseiller municipal? Vous disposez désormais de 1 000 agents. Que pouvez-vous faire maintenant qui serait impensable autrement ? Êtes-vous quelqu'un qui habite dans son quartier? Vous disposez désormais d’outils encore meilleurs pour les responsabiliser. Êtes-vous un universitaire? Très bien, réfléchissez maintenant à la façon dont les nombreux statuts, règles, structures, institutions et incitations confondent incitations et progrès, à ce qui devrait être amélioré et à la manière d’obtenir une coordination plus efficace au lieu d’obstructions automatisées.

Voici le lien. Voici le tweet pertinent de Dean Ball.

Le post Seb Krier est apparu pour la première fois sur Marginal REVOLUTION.

#Seb #Krier