Comment penser intelligemment une super-intelligence ? Avec Thibaut Giraud à l'EPFL.


(0)
45 Vues
0 commentaire
16.05.2018

Que pouvons-nous dire d'intelligent sur une super-intelligence ? Le degré d'intelligence des êtres humains n'est pas une borne infranchissable ; ce n'est pas même un jalon significatif : qu'une intelligence artificielle dans un certain domaine fasse jeu égal avec l'intelligence humaine, il n'est pas douteux que la première ne tardera pas à être améliorée de sorte à surpasser radicalement la seconde. Ainsi l'idée d'une IA de niveau humain, dont l'intelligence serait en tout point comparable à l'intelligence humaine, semble illusoire non pas parce qu'il serait illusoire d'imaginer qu'une IA puisse atteindre ce niveau, mais parce qu'il est illusoire de croire qu'une intelligence parvenue à ce niveau ne l'aurait pas, dans un même élan, dépassé radicalement. Dépassé... vers quoi ?
De là vient l'idée d'une super-intelligence, c'est-à-dire une intelligence dépassant radicalement la nôtre de tout point de vue. Ce sujet fascine et soulève de nombreuses questions : la création d'une super-intelligence est-elle probable ? inévitable ? Quelle conséquences pour l'être humain ? Pourrions-nous exercer un contrôle sur elle ?
Mais Thibaut Giraud de se pencher sur une question d'un autre ordre : une question épistémologique, c'est-à-dire relative à la connaissance. La super-intelligence pose en effet un défi épistémologique très particulier : que pouvons-nous savoir du comportement d'une intelligence radicalement supérieure à la nôtre, lorsque c'est précisément en usant de notre intelligence que nous essayons de le savoir ? Il semble ainsi qu'une super-intelligence soit, par définition, un point aveugle : nous pouvons en cerner les contours mais elle reste absolument inconcevable.

CONFÉRENCE
 - 0'00'00 : Intro
 - 0'02'08 : Début de conférence, présentation générale
 - 0'03'24 : Petit détour du côté de la fiction
 - 0'08'19 : Qu'est-ce que l'intelligence
 - 0'11'51 : Expertise et intelligence
 - 0'14'17 : Représentations visuelles de l'intelligence
 - 0'23'43 : Super-intelligence sociale
 - 0'32'58 : La société est-elle un agent ?
 - 0'35'34 : Parlons d'IA et de proba
 - 0'44'18 : Objectifs finaux et instrumentaux
 - 0'50'27 : L'arbitraire des objectifs finaux dans les fictions de Greg Egan
 - 0'51'28 : Apocalypse par défaut
 - 0'55'04 : Quelques exemples réels d'objectifs instrumentaux inattendus
 - 0'55'28 : Jules Verne et Yudkowsky
 - 0'57'25 : Brouillard épistémique et principe de déférence épistémique
QUESTIONS
 - 1'02'09 : Précautions et lois de la robotique d'Asimov
 - 1'04'31 : Intelligence artificielle collective
 - 1'06'51 : Consensus et agentivité de la société
 - 1'08'09 : Observabilité d'une super-intelligence
 - 1'09'57 : Quel intérêt de jouer aux échecs ou d'écrire un roman si des super-intelligence peuvent faire ça mieux que nous ?
 - 1'13'22 : Remarques sur l'utilitarisme 
 - 1'14'43 : Une IA serait-elle la continuation de l'espèce humaine ?
 - 1'15'47 : Fusion IA-humain
 - 1'16'31 : La super-intelligence comme outil
 - 1'18'05 : Annihilation spirituelle de l'humain par l'IA 
 - 1'21'26 : Les objectifs instrumentaux de notre super-intelligence sociale peuvent-ils être dangereux eux aussi ? 
 - 1'23'35 : Le choix de poursuivre la recherche en IA