Bibliogr. p. [445]-473. Notes bibliogr. Index. Glossaire

La 4e de couv. indique : "Que se passera-t-il quand les machines surpasseront l’intelligence humaine ? Les robots vont-ils nous sauver ou nous détruire ? Isaac Asimov l’avançait dès 1942 avec ses trois lois de la robotique : l’intelligence artificielle doit être contrôlée au plus profond de ses fondements pour qu’elle ne puisse jamais s’attaquer à l’Homme. Mais comment s’assurer qu’une superintelligence ne se révèlera pas hostile à la survie de l’humanité ? Dans cet ouvrage unique, best-seller international traduit en 19 langues, Nick Bostrom nous révèle les difficultés que la recherche d’une intelligence supérieure va nous poser et comment les résoudre. Il s’agit sans doute du plus grand défi auquel l’humanité aura à faire face. Il faut s’y préparer."

Une réflexion sur les problèmes posés par les progrès de l'intelligence artificielle et notamment sur le surpassement robotique des facultés cognitives. Elle évalue les risques et les bénéfices d'une supériorité analytique, mémorielle et décisionnelle des machines avant d'imaginer plusieurs scénarios possibles. ­Electre 2018

P. 5 La fable inachevée des moineaux P. 7 Avant-propos P. 11 Chapitre 1. Ce qui est déjà acquis et ce que nous saurons faire P. 11 La croissance dans l'Histoire P. 14 Les grandes espérances P. 17 Un temps pour espérer, un temps pour se décourager P. 26 État de l'art P. 36 Que penser des machines intelligentes du futur ? P. 41 Chapitre2. Les chemins qui mèneront à la superintelligence P. 42 L'intelligence artificielle P. 52 Émulation du cerveau entier ? P. 60 La cognition biologique P. 73 Les interfaces cerveau-ordinateur P. 78 Réseaux et organisations P. 80 Conclusion P. 83 Chapitre 3. Les formes de superintelligence P. 84 La superintelligence rapide P. 85 La superintelligence collective P. 89 La superintelligence qualitative P. 91 Y parvenir directement ou pas P. 92 Les avantages de l'intelligence digitale P. 97 Chapitre 4. La dynamique d'une explosion d'intelligence P. 97 Déroulement et vitesse de la transition P. 102 Récalcitrance P. 113 Pouvoir d'optimisation et explosivité P. 119 Chapitres 5. Avantage stratégique décisif P. 120 Le favori s'assurera-t-il un avantage stratégique décisif ? P. 125 Quelle sera l'ampleur du projet qui gagnera ? P. 131 De l'avantage stratégique au singleton P. 136 Chapitre 6. Les superpouvoirs cognitifs P. 137 Fonctionnalités et superpouvoirs P. 141 Un scénario de prise de pouvoir P. 147 Pouvoir sur la nature, pouvoir sur les agents P. 155 Chapitre 7. Ce que voudrait une superintelligence P. 155 La relation entre intelligence et motivation P. 160 La convergence instrumentale P. 169 Chapitre 8. Le résultat par défaut est-il l'Apocalypse ? P. 169 La destruction de l'humanité comme résultat par défaut de l'explosion de l'intelligence ? P. 171 Le tournant de la mutinerie P. 176 Les échecs malins P. 186 Chapitre 9. Le problème du contrôle P. 186 Les deux problèmes d'agence P. 189 Les méthodes de contrôle des capacités P. 202 Les méthodes de sélection de motivation P. 208 Synopsis P. 210 Chapitre 10. Oracles, génies, souverains et outils P. 210 Les oracles P. 214 Les génies et les souverains P. 218 Les outils P. 225 Comparaison P. 228 Chapitre 11. Les scénarios multipolaires P. 229 Des chevaux et des hommes P. 239 La vie dans une économie algorithmique P. 254 La formation d'un singleton après la transition ? P. 266 Chapitre 12. Implémenter des valeurs P. 266 Le problème du téléchargement de valeurs P. 269 Sélection évolutionniste P. 271 L'apprentissage par renforcement P. 272 L'augmentation de la valeur par association P. 274 Le montage motivationnel P. 276 L'apprentissage de valeurs P. 288 Modulation de l'émulation P. 290 Le montage institutionnel P. 296 Résumé P. 299 Chapitre 13. Choisir un critère de choix P. 299 Le besoin de la normativité indirecte P. 303 La volonté cohérente extrapolée P. 311 Modèles éthiques P. 315 Fais ce que je veux dire P. 317 Liste des composantes P. 324 S'en rapprocher suffisamment P. 326 Chapitre 14. La stratégie P. 327 Stratégie scientifique et technologique P. 343 Chemins et catalyseurs P. 351 Collaboration P. 364 Chapitre 15. Le moment critique P. 364 Philosopher avec une deadline P. 366 Que faire ? P. 370 Que le meilleur de la nature humaine se lève ! P. 373 Postface P. 379 Notes P. 445 Bibliographie P. 475 Glossaire P. 483 Index