La biologie évolutionniste est une tentative d'expliquer la nature des êtres vivants. Dans ce cadre, il existe une différence entre les individus et les gènes. Si une pratique augmente la probabilité de transmission de gènes, elle peut évoluer et être transmise, qu’elle serve ou non l’intérêt individuel ou collectif.

Pour donner un exemple simple, certaines femmes peuvent préférer les « cads ». Ces hommes dormiront par définition, mais peut-être que leurs fils dormiront aussi. Cela permet aux gènes de la femme de se propager davantage et risque d'empêcher les femmes qui préfèrent les cadavres de disparaître du pool génétique, même si les cadavres sont mauvais pour elles.

Vous vous demandez peut-être si des mécanismes correspondants s’appliquent au développement de modèles d’IA. Par exemple, si je choisis un modèle OAI plutôt que DeepSeek, cela aidera à diffuser les modèles OAI auprès de la population IA. OAI générera plus de revenus et obtiendra plus de résultats grâce à ce qui réussit sur le marché. De plus, mon choix de modèle peut inciter d’autres à faire de même et peut aider à créer et à financer l’infrastructure de ce modèle.

Vais-je acheter la prochaine génération de modèles OAI ? Eh bien, si j'ai aimé le premier. Le modèle se « reproduit » et se maintient si, en tant que consommateur, j’en suis satisfait. Un attrait évident est l’utilité, un autre est la flagornerie. Nous voyons ces fonctionnalités déjà réalisées dans les données. Cependant, il n’y a rien de comparable au « Cads Incentive » dans la vie humaine.

Un problème potentiel surgit lorsque les particuliers ne sont pas les seuls acheteurs potentiels. Disons que l'armée achète également des modèles d'IA. Les motivations des militaires sont peut-être complexes, mais au moins « vouloir tuer des gens » (que ce soit à tort ou à raison) figure sur la liste des utilisations possibles. Les modèles efficaces à cet effet sont donc encouragés et promus.

Mon modèle de l’armée est qu’elle accorde une grande valeur à « l’obéissance » et au « suivi des ordres » au-delà de l’efficacité, y compris dans ses modèles d’IA. Par conséquent, il y aura une pression évolutive pour développer davantage ces fonctionnalités dans les modèles d’IA militaires.

Bien entendu, toutes les commandes ne sont pas bonnes. Mais dans ce cas, le risque réel vient de personnes méchantes ou profondément trompées, et non des tendances des modèles d’IA eux-mêmes.

Par conséquent, je pense que la pression de sélection pour les modèles d’IA est relativement bénigne, compte tenu de cette mise en garde majeure quant à la manière dont les personnes malveillantes peuvent les développer et les utiliser.

Si le plus grand risque vient des modèles militaires, il se pourrait bien que le secteur consommateur des modèles d’IA se développe encore plus rapidement en tant que contrepoids relativement inoffensif.

Les modèles d’IA pour le secteur financier évolueront-ils davantage comme des modèles de consommation ou des modèles militaires ?

Voici quelques commentaires connexes de Maarten Boudry, et je remercie également un échange avec Zohar Atkins.

L'article Consommateurs contre amis comme source de pression de sélection apparaît en premier sur Marginal REVOLUTION.

#Consommateurs #partenaires #comme #source #pression #sélection