Il y a une nouvelle et excellente contribution de Tittal, voici un extrait:
L'AI 2027 a sélectionné un morceau très étroit de la salle de possibilités et a construit son modèle en fonction. Il n'y a rien de mal à le faire tant que vous êtes très clair que vous le faites. Cependant, si vous voulez que d'autres personnes vous prennent au sérieux, vous devez avoir les preuves pour vous assurer que votre pièce étroite est la bonne. Et tout en essayant de se disputer, à mon avis, ils ont échoué et n'ont pas réussi à prouver quoi que ce soit.
Et:
Pour résumer certains des problèmes:
Pour la méthode 1:
- Les auteurs de l'AI2027 ont attribué une probabilité de ~ 40% à une courbe “super exponentielle” spécifique, qui est garantie de tirer dans l'infini dans quelques années, même si leur horizon temporel actuel est dans les nanosecondes.
- Le rapport fournit très peu d'arguments conceptuels pour la courbe super exponentielle, dont l'un n'est pas pris en charge et un autre se plaide réellement contre Votre hypothèse.
- L'autre probabilité ronde ~ 40% est donnée à une courbe “exponentielle”, mais cela est également vérifié en raison de “l'accélération moyenne” supplémentaire.
- Votre modèle de «pénalité intermédiaire» ne correspond pas à vos propres estimations pour la vitesse d'IA actuelle.
- Leurs paramètres médians de courbe exponentielle ne correspondent pas à la courbe dans le rapport METR et ne correspondent facilement aux données historiques. Votre courbe médiane super exponentielle, dès que la vitesse est prise en compte, correspond à des correspondances encore pires avec des données historiques.
- Une courbe simple avec trois paramètres correspond également aux données historiques, mais fournit considérablement différentes prédictions pour les horizons temporels futurs.
- Les auteurs de l'AI2027 ont introduit une courbe “super exponentielle” au public, qui diffère de la courbe qu'ils utilisent réellement dans leur modélisation.
Le lien a beaucoup plus de détails (et des scénarios supplémentaires). Depuis des années, je fais pression sur la ligne de “AI Doom Talk a besoin d'une revue traditionnelle par les pairs et d'une modélisation formelle”, et je considère cet épisode comme étant justifiée de ce point de vue.
Addenda: Voici un très bon mot non annuel de (certains) les auteurs.
Les erreurs post-modélisation dans les cercles de Doom AI sont apparues pour la première fois dans la révolution marginale.
#Modélisation #des #erreurs #dans #les #tonnerre
