fabernovel loader

Dec 4, 2017 | 4 min de lecture

Cultures

L'IA est un mythe comme les autres

Tom Morisse

Research Manager


FABERNOVEL
Les scénarios ultra pessimistes ou optimistes décrivant un futur dominé par l'IA sonnent souvent comme des récits mythiques, avec lesquels ils partagent de nombreux points communs. Et justement, au lieu de nous attarder sur leur (faible) pouvoir prédictif, nous ferions mieux de voir les problèmes bien existants qu'ils nous désignent en creux, et qu'il y a urgence à résoudre.

L’IA est fascinante, l’IA est passionnante. L’IA peut beaucoup, mais l’IA ne peut pas tout. Et l’IA n’est certainement pas tout. N’avoir d’autre choix que de déclamer de telles platitudes en dit long sur les tonalités surprenantes que le débat public autour des conséquences de l’IA atteint bien souvent.

Disparition massive de l’emploi, dystopies totalitaires, impitoyables robots tueurs d’un côté ; de l’autre immortalité et autres menus bénéfices en (sur)abondance… L’IA, dans ces scénarios, prend des allures de gigantesque mythe. Même si, signes des temps, elle regarde vers le futur plutôt que vers les temps immémoriaux, elle en partage les thèmes, la structure et le but.

Les thèmes : vastes questions existentielles de tous temps vivaces. On retrouve aussi bien l’immortalité dans l’ambroisie de l’Olympe que dans la Singularité de Ray Kurzweil, et la peur de libérer le grand mal dans la boîte de Pandore que dans les angoisses médiatiques d’Elon Musk.

L’IA est un réceptacle de thèmes inépuisables pour au moins deux raisons. D’une part car sa complexité permet de tout faire peser, craintes et espérances, sur ses épaules. D’autre part car le champ, à travers la figure du robot, s’inscrit dans la longue lignée des histoires – les statues vivantes de l’Antiquité, le Golem de la tradition juive, la créature de Frankenstein ou les androïdes d’Asimov – interrogeant l’essence de notre humanité via les rapports entretenus avec nos créations.

La structure : l’important dans un mythe est la cohérence interne du récit et non les justifications rationnelles de sa possibilité. C’est bien là pour moi l’une des caractéristiques du célèbre essai Superintelligence de Nick Bostrom, qui propose une réflexion extrêmement poussée et minutieuse sur la prévention des risques qu’une intelligence bien supérieure à la nôtre ferait peser sur l’humanité. Un ouvrage brillant, érudit… mais hors sol, car il passe un peu vite sur les étapes très concrètes qui pourraient – ou pas – nous mener à un tel résultat. Superintelligence du futur et forces magiques de l’Olympe : même combat.

Le but : proposer de grandes leçons de morale pour le présent. Gare à l’hubris, nous chantent en choeur Icare et les prévisions alarmistes sur les ravages de l’IA.

A travers cette révolution technologique, la société se tend un miroir à elle-même.

C’est en fait là le plus intéressant : sur quoi les débats contemporains autour de l’IA nous interrogent-ils au fond ? Ma conviction est qu’à travers cette révolution technologique, la société se tend un miroir à elle-même. Et s’il y a un sentiment de révolte à ressentir, c’est que les racines bien actuelles des problèmes à venir imputés par anticipation à l’IA n’aient jamais été résolus auparavant.

Les robots tueurs ? Parlons dès aujourd’hui du droit des drones, du contrôle de leur utilisation.

Les pertes d’emploi gigantesques ? Cela fait des années que nous contemplons, impotents, les inégalités face au chômage et les offres d’emploi non pourvues, et annonçons à horizon indéfini un système qui formerait chacun, et pas que les plus qualifiés, tout au long de la vie.

Les biais des algorithmes, favorisant hommes / riches / blancs / éduqués / de pays développés… ? Ils ne font que refléter, et reproduire, des inégalités aisément dénoncées, plus rarement combattues.

Une société de surveillance ? Nous n’avons pas attendu l’irruption des puissants algorithmes de machine learning pour mettre en place des programmes d’écoute massifs.

La vraie menace que fait peser l’IA sur notre société, c’est de venir amplifier des problèmes déjà existants.

Chez FABERNOVEL, nous ne manquerons jamais d’envisager les dégâts potentiels de l’IA, de considérer éthique et valeurs comme des principes d’action, non comme de la glose théorique. Mais nous n’oublierons jamais non plus que la vraie menace que fait peser l’IA sur notre société, c’est de venir amplifier des problèmes déjà existants, et pour lesquels elle est rarement la seule réponse – voire, parfois, n’en est tout simplement pas une.

Nous avons toujours eu des grands mythes – l’erreur serait de croire qu’au XXIe siècle nous n’en aurions plus besoin, que le progrès et la rationalité scientifique les aurait rendus superflus. Mais, masqués qu’ils sont derrière des essais de futurologues plutôt que des épopées de tradition orale, nous en oublions leur nature et leur fonction : en repoussant les limites de l’imaginable, nous faire prendre du recul sur les temps présents – pas prendre ces récits pour argent comptant. Ne prenons pas les aiguillons pour des aiguillages.

Découvrez notre newsletter hebdomadaire sur l'IA !

Abonnez-vous
Cet article appartient à une enquête
logo business unit

FABERNOVEL

Distribute the future. Connect leaders. Change the game. We ignite ventures and transform organizations for the new economy.

à lire