J'ai promis de partager des modèles sérieux de la disparition imminente de l'IA, surtout s'ils sont évalués par des pairs ou du moins s'ils se dirigent vers un tel processus. Les types doomer de l’IA sont encore réticents à ce sujet, mais un économiste a contribué, et le voici par Henry A. Thompson :
La sagesse conventionnelle veut qu’une superintelligence artificielle (ASI) mal alignée détruira l’humanité. Mais le problème de la contrainte d’un agent puissant n’est pas nouveau. J’applique la logique économique classique de la concurrence interterritoriale, de l’intérêt global et du commerce à crédit à la menace d’un mauvais alignement de l’ASI. À l’aide d’un modèle simple, je montre qu’un ASI acquisitif s’abstient de toute prédation dans des conditions étonnamment faibles. Lorsque les gens peuvent fuir vers des rivaux, la concurrence entre les ASI crée un marché qui freine les prédateurs. Lorsqu’il est capturé par un ASI monopoleur, son « intérêt global » dans la production de l’humanité en fait un autocrate rationnel plutôt qu’un ravageur. Et si l’ASI n’a pas d’intérêt à long terme, notre capacité à suspendre la production future l’incite à commercer à crédit plutôt que de voler. À chaque extension, le bien-être de l’humanité se détériore progressivement. Mais chaque cas montre que la catastrophe n’est pas une fatalité. Ironiquement, la science obscure offre une vision optimiste de notre avenir super intelligent.
Vous pouvez être d’accord ou non, mais comme d’habitude, le but est de construire une littérature, et non de considérer une œuvre isolée comme le dernier mot. À propos de l’excellente Joy Buchanan.
L'article « Quelques aspects économiques de la super intelligence artificielle » est apparu en premier sur Marginal REVOLUTION.
#Quelques #économies #superintelligence #artificielle
