Enregistré en direct à Berkeley lors de la conférence Roots of Progress (un événement incroyable), voici la séquence avec transcription, voici le résumé de l'épisode :
Sam Altman fait sa deuxième apparition dans l'émission pour parler de la façon dont il gère la croissance explosive d'OpenAI, de ce qu'il a appris sur l'embauche d'employés chargés du matériel, de ce qui rend Roon spécial, à quel point ils sont loin d'un remplacement de Slack piloté par l'IA, de ce que GPT-6 pourrait permettre pour la recherche scientifique quand nous voyons des divisions entières gérées en grande partie par l'IA, de ce qu'il recherche chez les employés pour mesurer leur résilience en matière d'IA, de la façon dont OpenAI parle de commerce, se demande si GPT-6 écrira une grande poésie, pourquoi l'énergie est la contrainte contraignante sur la puce. bâtiment et d'où il viendra, son plan actualisé pour revitaliser Saint-Louis, pourquoi il ne s'inquiète pas d'enseigner aux gens ordinaires comment utiliser l'IA, qu'adviendra-t-il des prix des soins de santé et des installations sanitaires, son point de vue évolutif sur la liberté d'expression, pourquoi la persuasion accidentelle de l'IA l'inquiète plus que la prise de contrôle intentionnelle, la question qu'il a posée à la superintelligence du Dalaï Lama, et plus encore.
Abstrait:
COWEN : Qu'est-ce qui rend GPT-6 si spécial pour vous ?
VIEUX HOMME : Si GPT-3 a été le premier moment où vous avez vu une lueur de quelque chose qui ressemblait à réussir le test spirituel de Turing, GPT-5 est le premier moment où vous voyez une lueur d'IA faisant de la nouvelle science. Ce sont de très petites choses, mais de temps en temps, quelqu'un poste : « Oh, il a compris ça », ou « Oh, il a eu cette nouvelle idée » ou « Oh, il a été un collaborateur utile dans ce travail ». Il est possible que GPT-6 soit un saut de type GPT-3 à 4 qui s'est produit dans des choses de type test de Turing pour la science, où 5 a ces minuscules lueurs et 6 peut vraiment le faire.
COWEN : Disons que je dirige un laboratoire scientifique et que je sais que GPT-6 arrive. Que dois-je faire maintenant pour me préparer à cela ?
VIEUX HOMME : C'est toujours une question très difficile. Même si vous savez que cette chose arrive si vous ajustez votre…
COWEN : Disons que je l'ai même maintenant, non ? Que ferais-je exactement le lendemain matin ?
VIEUX HOMME : Je suppose que la première chose que vous feriez serait simplement de saisir les questions de recherche actuelles avec lesquelles vous avez du mal, et peut-être que cela dira « Voici une idée » ou « Faites cette expérience » ou « Faites autre chose ».
COWEN : Si j'envisage de restructurer une organisation entière pour se concentrer sur GPT-6 ou 7 ou autre, que dois-je faire sur le plan organisationnel au lieu de simplement demander à tous mes hauts responsables de l'utiliser comme complément à leur corpus de connaissances actuel ?
VIEUX HOMME : J'y ai réfléchi davantage dans le contexte des entreprises que dans celui des universitaires, simplement parce que je le comprends mieux. Je pense que c'est une question très importante. À l'heure actuelle, j'ai rencontré des organisations qui disent réellement : « D'accord, nous allons adopter l'IA et la laisser faire. » Cela m'intéresse beaucoup car ce serait dommage pour moi qu'OpenAI ne soit pas la première grande entreprise dirigée par un PDG d'IA, non ?
COWEN : Juste des parties. Pas tout.
VIEUX HOMME : Non, tout ça.
COWEN : C'est très ambitieux. Juste le ministère des Finances, peu importe.
VIEUX HOMME : Eh bien, oui, mais à un moment donné, tout cela devrait se concrétiser, non ? Nous pouvons donc utiliser cela et essayer de travailler à rebours à partir de là. Je pense qu’il s’agit d’une expérience de réflexion très intéressante sur ce qui devrait se produire pour qu’un PDG d’IA gère OpenAI bien mieux que moi, ce qui arrivera clairement un jour. Comment pouvons-nous accélérer cela ? Qu’est-ce qui fait obstacle ? J'ai trouvé que c'était une expérience de réflexion extrêmement utile sur la façon dont nous concevons notre organisation au fil du temps et quels seront les autres éléments et obstacles. Je suppose que quelqu’un qui dirige un laboratoire scientifique devrait essayer de penser de la même manière et parviendra à des conclusions différentes.
COWEN : À votre avis, à quelle distance, par exemple, d'une seule division d'OpenAI étant alimentée à 85 % par l'IA ?
VIEUX HOMME : Un département en particulier ?
COWEN : Il ne s’agit pas d’un petit département insignifiant géré en grande partie par les IA.
VIEUX HOMME : Un petit nombre d’années à un chiffre, pas très loin. Quand pensez-vous que je pourrai dire : « D'accord, Monsieur le PDG d'AI, vous prenez le relais » ?
Bien sûr, nous parlons aussi de Roon, sans parler de la vie sur les lunes de Saturne…
Le message Mon excellente conversation avec Sam Altman est apparu en premier sur Marginal REVOLUTION.
#Mon #excellente #conversation #avec #Sam #Altman
