Confrontation d’idées sur l’intelligence artificielle : Cédric Villani – Natacha Polony / France-Inter, le Grand Face-à-Face

 

Emission du 14 janvier 2018 (durée : environ 20 min.) / Extraits

Question : Faut-il avoir peur de l’intelligence artificielle.

  • Ali Badou : Pour y répondre, Cédric Villani, […]. Et c’est aussi un crapaud fou. Crapaud fou, ce n’est pas une insulte, au contraire.

  • Cedric Villani : Au contraire. Les crapauds fous, ce sont ces individus déviants, au comportement bizarre, qui chez les crapaud parfois sauve l’espèce en trouvant une route à laquelle leurs congénères n’avaient pas pensé. Et, alors que si cette route, par exemple, se transforme en axe de circulation de voitures, que les crapauds se font tuer par les voitures, ceux qui ne pensent pas comme les autres, vont trouver une voie de secours. Et par là, permettre aux autres de se sauver. Comme une métaphore pour nous de ce que parfois ce sont des déviants, des gens qui ne pensent pas comme les autres qui trouvent des solutions.

  • Ali Badou : Au point de présenter un manifeste du crapaud fou, qui est un appel à l’action pour un nouveau monde. On va en parler tout à l’heure, mais d’abord un mot sur l’intelligence artificielle. Quand on pose la question « faut-il en avoir peur », est-ce que c’est une bonne manière d’ouvrir le débat sur le sujet ?

  • Cédric Villani : Je pense que c’est pas une bonne manière, mais c’est une manière qui est assez naturelle dans un continent, l’Europe, qui est un continent qui se prépare à être le mieux protégé en termes de droits du citoyen par rapport à l’intelligence artificielle et qui en même temps en a le plus peur. Et c’est quelque chose qui va revenir dans notre mission, dans nos préconisations aussi, trouver des moyens de parler de l’intelligence artificielle, d’aborder les problèmes frontalement sans rien cacher mais aussi d’expliquer et de rassurer.

  • Ali Badou : Alors commençons par l’explication, de la manière la plus simple possible, qu’est-ce qu’on entend par intelligence artificielle.

  • Cédric Villani : Et cette première question qui est la plus naturelle est une chausse-trappe parce qu’il n’y a pas de bonne définition de l’intelligence artificielle. L’intelligence artificielle ce sont toutes sortes de techniques utilisées pour que des algorithmes puissent produire des résultats qui sont fins, qui sont malins, qui prennent en compte de multiples paramètres. Tellement malins, qu’on aurait cru qu’il fallait être intelligent ou sur-intelligent au sens où on l’entend habituellement pour fournir ces résultats. Et finalement, on voit ces programmes petit à petit émerger, exceller au jeu d’échecs puis au go, puis au jeu de bridge

  • Ali Badou : battre les humains

  • Cédric Villani : battre les humains, commencer à piloter des voitures automatiques, reconnaître automatiquement des situations, reconnaître si une image médicale indique un cancer ou pas. Des tâches… Mais enfin il faut bien s’entendre en quelques fractions de secondes et en connaissant beaucoup plus d’exemples qu’aucun cerveau humain pourra jamais comprendre. Le terme intelligence artificielle est fort mal choisi. Au début, ça a été choisi dans les années cinquante parce qu’il s’agissait de reproduire l’intelligence humaine avec un algorithme. Maintenant ce n’est plus du tout ça le plan. Le plan, c’est d’accomplir des choses que justement les humains ne savent pas faire et n’ont pas envie de savoir faire, comme de mémoriser des milliards d’exemples, comme de réaliser des opérations extrêmement, extrêmement rapidement. Le grand défi de l’intelligence artificielle c’est précisément laisser ces algorithmes prendre en charge les tâches qui sont extrêmement mécaniques, réflexes, celles qui sont, bref, pas dignes de nous humains et nous laisser nous concentrer sur ce qu’on aime faire.

  • Natacha Polony : […] Sauf que ça révèle une conception de ce qu’est la construction de l’intelligence humaine qui est assez problématique parce que ces tâches que nous considérons comme mécaniques, ce sont aussi souvent des tâches manuelles, or l’intelligence se forge par les sens, par les cinq sens et par le geste et nous avons un petit peu tendance à l’oublier. C’est un des premiers problèmes que pose cette conception de l’intelligence artificielle. Le deuxième étant que l’on s’aperçoit que de plus en plus de gens qui sont au coeur de la conception de cette intelligence artificielle sont en train d’alerter. Et certains y voient un parallèle avec les remords par exemple des scientifiques qui ont inventé la bombe atomique, c’est-à-dire c’est du même ordre. Quand on voit des gens qui étaient au coeur de la Sillicon Valley, qui étaient au coeur des GAFA [Google-Apple-Facebook-Amazon] et qui tout à coup disent « attention, nous sommes en train de nous laisser déborder », eh bien, est-ce qu’il ne faut pas y voir l’idée que comme Rabelais le disait « science sans conscience n’est que ruine de l’âme » et que se laisser gouverner par des algorithmes, c’est aussi choisir de ne plus avoir de guide moral, mais un guide d’efficacité, de finance et qui pourrait aller au-delà, enfin dépasser notre désir éthique.

  • Cédric Villani : Natacha Polony, vous avez admirablement résumé certains des enjeux les plus importants, c’est vrai. Et y’a quelques mots-clés. Effectivement, l’enjeu d’abord n’est pas de se laisser gouverner par les algorithmes, mais si on en arrive-là, c’est qu’on aura perdu la bataille. L’enjeu est d’arriver à faire de ces algorithmes ce que nous souhaitons en faire. Il ne faut pas se défausser derrière la technologie : « c’est la technologie qui fait ça et on n’y peut rien ». Ca c’est la mauvaise approche. La bonne approche est de chercher à garder la responsabilité, à faire en sorte que ce soit l’intelligence artificielle qui soit conçue et utilisée avec un sens de l’éthique. Y compris avec des organes indépendants qui seront chargés de le vérifier et de faire des recommandations »

Dans les questions soulevées j’ai noté par la suite :

« Qui a la main sur la production de l’intelligence artificielle, qui aujourd’hui produit les avancées dans ce secteur? »

ainsi que la question de l’impact sur le contrat social et notamment, la question du travail.

Enfin une dernière remarque pertinente de Natacha Polony :

« Aujourd’hui, le monde fonctionne selon des règles privées, des règles de profit. Et les algorithmes aujourd’hui sont utilisés essentiellement et avant tout pour faire du profit et peut-être même pour manipuler les individus et c’est là que ça devient problématique. Comment fait-on pour fournir au futur citoyen les moyens aujourd’hui de ne pas être totalement aliéné par des algorithmes qui vont décider à leur place et avant eux ce qu’ils veulent et ce qu’ils peuvent penser. Parce que derrière cette problématique d’intelligence artificielle, il y a avant tout le moyen de transformer les individus en consommateurs »

[…]

 

Liens

 

Remarque : je n’ai pas encore trouvé le nom de la chercheuse française qui serait à l’origine du deep learning dans les années quatre-vingts, chercheuse à laquelle Cédric Villani faisait allusion avant de mentionner Yann Le Cun

France-IOI

Dans la série « j’écume le web », je vous présente France-IOI : http://www.france-ioi.org/

France_IOI
Pour ceux qui ne connaitraient pas déjà, France-IOI est un site dédié aux écoliers-collégiens-lycéens et consacré à l’apprentissage de l’informatique et de la logique.

Les enseignants y sont aussi les bienvenus.

Petite présentation en deux mots
On commence par se créer un profil, et on se lance.
On peut ainsi apprendre de manière très progressive à programmer en Python, Java, C, C++, OCaml et Pascal.
Fantastique, non ?
Par la même occasion, pour les personnes assidues, il sera même possible d’être sélectionné via la plateforme pour une participation aux olympiades d’informatique. A condition de satisfaire aux conditions du concours (limite d’âge, nationalité par exemple)

Je ne sais pas s’il existe une plateforme équivalente en Suisse. En tout cas, rien n’empêche les écoliers romands d’apprendre sur ce site.

Code Week : c’est maintenant !!

codeweek-2016

Toutes les infos ici : http://codeweek.eu/

En revanche, pas beaucoup d’événements sur Lausanne ou Genève si ce n’est un « scratch day » à l’EPFL le 19 novembre. Toutes les infos au sujet du « scratch day » ici ou .

scratch

En attendant, vous pouvez télécharger le logiciel sur votre tablette : iOS (iPad uniquement) ou Android

Pour lancer le logiciel Scratch en mode offline sur son ordinateur : .

Bon, quand même, pour ceux qui ne connaissent pas : c’est quoi Scratch ?

Scratch est un logiciel d’apprentissage de la programmation destiné aux enfants. A partir de quel âge ? J’ai envie de répondre : dès qu’ils savent lire. L’interface est assez aisée à maîtriser, on imbrique du code comme on imbrique des Lego.

Commencent à sortir des livres à destination des enfants sur le sujet. Sur Lausanne, on en trouve chez Payot et à la FNAC. Sur Genève, on peut ajouter également la librairie Ellipse.

Evidemment, en anglais il y a plus de choix qu’en français.

Pour une recherche bibliographique sur le sujet, on peut utiliser le moteur de recherche du groupe Amazon ou aller sur celui de l’éditeur-libraire Eyrolles.

Pour l’initiation à la programmation, j’ai bien aimé les 4 livres de Max WAINEWRIGHT.
Lecture très simple et texte d’une belle lisibilité. Les autres références sont d’un abord plus difficile pour des enfants. A recommander plutôt à partir de 10 ans, sauf exception.