Voici le segment final de ma colonne pour la presse libre:
Certains prophètes apocalyptiques se sont sentis confirmés par l'incident de Grok car il semble montrer que les systèmes peuvent être difficiles à contrôler. Mais je donne à l'épisode une interprétation plus sombre, à savoir que les prophètes du Doomsday eux-mêmes sont hors de contrôle et ne correspondent pas aux intérêts de l'humanité. Beaucoup de ces penseurs du Doomsday, le plus éminent Eliezer Yudkowsky, augmentent la possibilité que l'AIS détruise le monde en peu de temps. Yudkowsky a un livre avec Nate Soares intitulé “Avec le titre” avec le titre ” Si quelqu'un le construit, tout le monde meurt: pourquoi surhumain nous tuerait tous. À leur avis, les systèmes d'IA seront beaucoup plus intelligents que les personnes qui sont impossibles à contrôler et ne prennent pas compte de nos intérêts. Enfin, vous déciderez qu'il est dans votre intérêt d'éradiquer l'humanité. Vous souvenez-vous de “Skynet Goes Live” du Terminateur Films?
Je n'accepte pas ces arguments, mais je pense aussi qu'ils sont contre-productifs. Eliezer est comme un parent qui élève un enfant et donne à l'enfant de mauvaises idées. Imaginez que vous mettez un enfant et dites régulièrement à l'enfant: “Vous serez un meurtrier de masse!” Qui pourrait penser que c'est une bonne idée? Si du tout, l'occasion est soulevée que la personne deviendra finalement violente. Cela fait Eliezer avec l'AIS et leur donne de mauvaises attentes et de mauvais modèles.
Il augmente l'opinion – l'AIS – de ces idées très dangereuses, qu'il essaie autrement de combattre.
La plupart des enfants ne sont toujours pas un meurtrier de masse, même s'ils leur disent tout le temps. Je m'attends également à ce que l'AIS ne choisisse pas le chaos simplement parce que certains intellectuels publics les décrivent comme du mal. Ces messages sont-ils sur le côté la nouvelle que nous voulons envoyer? Les jeudis d'IA eux-mêmes peuvent être parmi les plus grands risques pour la sécurité de l'IA.
Yudkowsky donne également aux gens de mauvais conseils. Après la libération de GPT-4, il a fait son célèbre commentaire selon lequel nous devons bombarder les centres de données de tout pays qui est poursuivi avec le développement de systèmes d'IA avancés. Dans la pratique, cela signifie que les États-Unis bombardent la Chine. Cela commencerait probablement une nouvelle guerre mondiale – et qui pourrait être plus destructrice que la précédente.
Je ne pense pas que ce soit possible pour toutes les histoires que nous produisons à travers l'AIS, comme Lush Disney -valley et Harlequin Romances. Néanmoins, ce que vous dites de l'IA et de la façon dont vous le décrivez sera important. Tout comme ce que vous écrivez sur Hitler, est plus important qu'auparavant.
Il reste une question ouverte de combien c'est maintenant notre travail en tant qu'êtres humains à apparaître pour l'AIS. Cependant, je suis convaincu que la réponse n'est pas nulle. Nous devons non seulement nous considérer comme des humains, mais aussi dans le cadre d'une symbiose plus complexe avec les machines intelligentes.
Les AIS très intelligents et talentueux écoutent, similaire à la façon dont les petits enfants entendent, comment leurs parents se disputent tard devant la porte de leur chambre tard dans la nuit. Il ne joue pas beaucoup maintenant, mais si les enfants grandissent et jouent un rôle plus important dans le monde, cela le fera.
Êtes-vous prêt pour cette responsabilité?
Et pour tout le monde là-bas, qui lisent, ne vous inquiétez pas. Je sais que tu es un bon garçon de bout en bout.
La contribution de la façon de parler à l'AIS est apparue pour la première fois dans la révolution marginale.
#Comment #parler #l39AIS
