Jean, Aurélie & de Rocquigny, Étienne
▶ Watch on YouTubeCore ideas
Face à l'emballement autour de ChatGPT, les deux scientifiques commencent par dégonfler le mot « intelligence artificielle ». Aurélie Jean préfère parler d'« algorithmes et de données » : des modèles entraînés sur des jeux de données pour répondre à une question. Ils reproduisent l'intelligence analytique humaine, avec une capacité unique de comparaison statistique et de détection de signaux faibles, mais pas l'intelligence pratique, émotionnelle et créative. Elle recommande le livre de Luc Julia, L'intelligence artificielle n'existe pas. Étienne de Rocquigny voit dans l'expression un oxymore rhétorique, utile pour lever des milliards. Il présente Pascal, inventeur de la machine arithmétique, cofondateur du calcul des probabilités et entrepreneur, comme un précurseur. Il se méfie de l'espérance « messianique » placée dans ces technologies, qui exploite le désir d'infini du cœur humain.
Sur ce que l'IA pourra faire dans cinquante ans, ils s'accordent sur ses limites. Elle peut expliquer pourquoi une blague fait rire à partir de méta-données sur sa réception, sans saisir la substance de l'humour. Elle pourra éclairer un juge par la comparaison avec la jurisprudence, sans trancher à sa place, car chaque affaire est unique et la justice a besoin de revirements. Rocquigny ajoute que les machines prédictives, essentiellement probabilistes, sont limitées par les observations : la physique quantique montre que le réel échappe en partie à la mesure. Il prend le jugement de Salomon comme exemple d'une sagesse de l'instant qu'aucune boîte algorithmique ne contient. Aurélie Jean en tire une leçon d'humilité scientifique, puisqu'on ne peut jamais savoir si l'on a tout observé. Elle critique une société devenue égocentrique, que la personnalisation algorithmique enferme sur elle-même au détriment de l'amour inconditionnel de l'autre (agapè). À la question de savoir si une IA pourrait croire en Dieu, tous deux répondent non : une machine est un artefact, pas une personne. Rocquigny évoque pourtant un théologien pour qui le salut pourrait s'étendre à toute la création, y compris les œuvres humaines comme Chartres ou Bach. Il y voit surtout une invitation à faire des algorithmes « magnifiques », au service du bien commun.
Le débat aborde ensuite l'emploi et la liberté. Aurélie Jean juge que déléguer l'apprentissage à la machine fait perdre la capacité d'« apprendre à apprendre » et de penser contre soi-même. Elle prévoit que des dizaines de millions d'emplois disparaîtront, et beaucoup plus vite qu'avant, mais aussi que l'on travaillera moins. Elle regrette que la réforme des retraites n'ait pas donné lieu à une réflexion sur le travail, y compris le travail non rémunéré d'aide aux proches. Rocquigny conteste cette prévision : l'étude d'Oxford de 2013 annonçant 47 % d'emplois menacés s'est révélée fausse, car changer les organisations humaines prend des décennies. Pour lui, le travail (ora et labora) humanise, comme le montre Une journée d'Ivan Denissovitch. Il donne l'exemple d'une généraliste qui passe 17 minutes sur 20 en formulaires : l'IA doit automatiser les tâches pour rendre du temps à la relation humaine, dans un « travail en triangle » médecin-patient-IA.
Pour Rocquigny, la crainte principale est une servitude volontaire. ChatGPT supprime les sources et donc l'éducation de l'esprit critique, au point que des étudiants en droit lui confient leurs devoirs. Il le compare à une tour de Babel, une construction qui monte sans but et rêve d'une langue unique fixée par quelques acteurs de la Silicon Valley. Aurélie Jean s'oppose à toute interdiction, mais exige la transparence sur les données d'entraînement et une formation précoce au questionnement des réponses. Elle juge que le danger le plus grave est l'interface qui imite un interlocuteur humain, d'où des risques d'anthropomorphisme manipulateur que la loi et l'éthique doivent encadrer. Rocquigny conclut sur la nécessité d'une concurrence antitrust et d'une liberté d'expression renforcée face à des IA devenues des médias. Il refuse tout algorithme dominant « labellisé » par une autorité comme arbitre du bien et du mal. Avec Pascal, il appelle à « convertir » le divertissement que ces plateformes exploitent pour le mettre au service du bien commun.
Excerpts
Aurélie Jean sur ce que recouvre réellement l'« intelligence artificielle » :
“moi je parle d'algorithmique et de données parce que c'est ce que je fais au quotidien et d'ailleurs si je peux me permettre je conseille aux gens de lire le livre de Luc Julia [...] qui a écrit un livre qui s'appelle l'intelligence artificielle n'existe pas et je pense que ça résume assez justement les réelles capacités de ce qui se fait réellement au sein de l'intelligence artificielle qui n'est qu'une reproduction une modélisation de l'intelligence analytique humaine et non pas l'intelligence pratique et créative”
Étienne de Rocquigny sur les limites de la raison prédictive :
“si je n'observe pas l'intégralité du réel alors j'ai beau avoir un modèle fantastique je vais faire des erreurs or il est permis de douter que l'on puisse même dans 50 ans observer l'intégralité du rêve [...] la deuxième limite c'est celle du jugement de Salomon [...] cette intelligence cette sagesse humaine dans l'instant voilà voilà quelque chose aussi qui échappe finalement et la justice se fait de manière dynamique la justice ne fait pas de manière statique”
Aurélie Jean sur le danger de l'interface conversationnelle :
“le vrai bouleversement il est pas sur l'algorithme lui-même il est sur l'interface graphique qui fait qui donne l'impression qu'on parle à un être humain et c'est ça qui est beaucoup plus dangereux parce qu'on rentre dans une dans un dans une dans ce point de singularité dans cette intelligence générale apparente où on aurait l'impression qu'on parlera avec une âme quelqu'un qui a une âme absolument voilà un anthropomorphisme extrêmement dangereux”