Un meilleur scénario pour l'IA?
Le nombre de condamnés était faux. Sur un “démarrage rapide” pour AGI, ils ont prédit que le modèle d'IA leader utiliserait son intelligence pour s'améliorer, laisser les autres dans la poussière et pour atteindre rapidement une superintelligence semblable à Dieu.
Au lieu de cela, nous voyons le contraire:
– Les principaux modèles visent des repères de performance similaires.
-Les entreprises de modélisation continuent de sauter leurs dernières versions (ce qui ne devrait pas être possible si vous arrivez rapidement).
-Les modèles développent des domaines avec un avantage concurrentiel et se spécialisent de plus en plus dans la personnalité, les modes, le codage et les mathématiques en tant que modèle qui devient omniscient.
Rien de tout cela ne va gagner des progrès. Nous avons une forte amélioration de la qualité, de l'amitié et des prix / performances dans les sociétés top modèles. C'est l'étoffe d'une grande ingénierie et devrait être célébré. Ce n'est tout simplement pas l'étoffe des déclarations apocalyptiques. Oppenheimer a quitté le bâtiment.
La race AI est très dynamique, donc cela peut changer. Mais pour le moment, la situation actuelle est Goldillocks:
– Nous avons 5 grandes entreprises américaines qui rivalisent vigoureusement pour les modèles frontaliers. Cela apporte le meilleur de tout le monde et aide l'Amérique à remporter la course de l'IA. Comme @Balajis
Il a écrit: “Nous avons de nombreux modèles de nombreuses factions, qui sont toutes convergées dans des compétences similaires au lieu d'une grande avance entre le meilleur modèle et le reste. Nous devons donc nous attendre à un équilibre entre différentes fusions humaines / IA au lieu d'un seul AGI dominant, qui nous transforme tous en trombones / colonnes du sel.”
– Jusqu'à présent, nous avons évité un résultat monopolistique qui remplit toute puissance et contrôle dans une seule entité. À mon avis, le résultat dystopique le plus probable avec l'IA est un mariage de pouvoir d'entreprise et d'État, similaire aux fichiers Twitter, dans lesquels la «confiance et la sécurité» devient une arme dans la censure et le contrôle de l'État. Au moins, si vous avez plusieurs joueurs forts dans le secteur privé, ce sera plus difficile. En revanche, la dynamique de la probabilité gagnante de la probabilité produit plutôt des résultats d'Orwell.
– Il y aura probablement un rôle important pour l'open source. Ces modèles offrent 80 à 90% de la capacité à 10 à 20% des coûts. Ce compromis sera très attrayant pour les clients qui apprécient les ajustements, le contrôle et les coûts des fonctions frontalières. La Chine était tout-open source, il serait donc bon que davantage de sociétés américaines se disputent dans ce domaine, comme OpenAai. (Meta gagne également du crédit.)
– Il existe probablement une division du travail entre les modèles de base généralisés et les applications spécifiquement verticalisées. Au lieu d'une seule superintelligence, qui capture toute la valeur, nous verrons probablement de nombreuses applications d'agent qui résolvent les problèmes de “dernier mile”. Ce sont une excellente nouvelle pour l'écosystème des startups.
– Il existe également une division de plus en plus claire du travail entre les personnes et l'IA. Malgré tous les progrès miraculeux, les modèles d'IA sont encore à zéro pour définir leur propre fonction objective. Les modèles ont besoin d'un contexte, ils doivent être invités, la sortie doit être vérifiée et ce processus doit être répété de manière itérative afin d'atteindre une valeur commerciale judicieuse. Pour cette raison, Balaji a déclaré que l'IA n'était pas de bout en bout, mais du milieu au milieu. Cela signifie que les prédictions apocalyptiques de la perte de travail ainsi que de l'AGI elle-même. Au lieu de cela, le truisme est qu'elle “elle n'utilise pas votre travail à l'IA, mais pour quelqu'un qui utilise l'IA comme elle”.
En résumé, les dernières publications des modèles d'IA montrent que les fonctions du modèle sont plus décentralisées que beaucoup prévues. Il n'y a aucune garantie que cela continue -Dans il y a toujours le potentiel que le marché attaquera un petit nombre d'acteurs dès que le super cycle de l'investissement est terminé L'état actuel de la forte concurrence est sain. Il stimule l'innovation, aide l'Amérique à gagner la race de l'IA et à éviter le contrôle central. C'est une bonne nouvelle – ce que les Doomers ne s'attendaient pas.
Voici le lien Tweet. Comme vous l'avez lu ici, je suis très satisfait de GPT-5. Cependant, cela ne montre pas que les scénarios les plus extrêmes (destructeurs ou utopiques) pour le développement de l'IA sont corrects, au contraire. Sous le tweet de sacs, vous pouvez lire des réponses assez inattendues.
La contribution David Sacks peut être vue correctement sur la révolution marginale.
#David #Sacks #est #correct
