Je vous partage l'article ci-dessous paru ce jour dans un grand quotidien belge :
https://www.lalibre.be/debats/opinions/ ... WBNRTH5GE/
L'Histoire, ce sont nos racines, ce sur quoi une civilisation, une société, une famille reposent. Or l'IA menace la confiance dans les écrits, dans les images. Soumis au feu d'une grande quantité de nouvelles, fausses et vraies, l'esprit critique ne saura qui croire.
Une opinion de Michel Wautelet, professeur e.r. UMons
Dans le film Forrest Gump, sorti en 1994, on voit le héros Forrest Gump (Tom Hanks) parler avec John F. Kennedy, Lyndon Johnson, John Lennon. Un journaliste a demandé à Robert Zemeckis, réalisateur du film, s'il était possible que, dans un futur film "récemment découvert", Hitler se désolidarise du nazisme, ou de Gaulle fasse l'éloge de Pétain, ou le président américain Clinton dise sa profonde admiration pour Saddam Hussein. Il répondit que, selon lui, "un tel incident se produira tôt ou tard. Tous les ans, pendant quatre-vingt-dix minutes, le président des États-Unis prononce le discours sur l'état de l'Union. Sauvegardez dans une banque d'images un certain nombre de ces discours, remontez-les : rien n'empêcherait de lui faire prononcer la plus incendiaire des diatribes".
Déjà à l'époque, les dangers de dérapage étaient évidents : refaire l'Histoire, grande ou petite. Point n'est même besoin de réécrire de nombreux évènements ; il suffit de semer le doute sur les films d'époque, pour que la méfiance généralisée s'installe. Quid alors de la crédibilité des politiciens et des médias ? C'est tout le système de l'information démocratique qui serait touché. Zemeckis ajoutait : "Nous espérons que cela va faire réfléchir les membres du Congrès". Ces considérations datent de 1994 – il y a trente ans. Il fallait alors des ordinateurs très puissants pour de telles prouesses. Depuis lors, avec l'explosion de l'Intelligence artificielle (IA), de telles manipulations sont devenues possibles pour chacun. Avec l'avènement des réseaux sociaux, chacun peut produire un petit film et le répandre aussitôt dans le monde entier, sans contrôle, sans vérification de sa véracité, sous prétexte du droit à l'information, du rejet de toute censure.
Vérité complexe
On parle beaucoup des risques que l'IA fait planer sur les emplois industriels, administratifs, voire artistiques. Il n'y a pas que l'emploi. Il y a aussi l'Histoire. L'Histoire, ce sont nos racines, ce sur quoi une civilisation, une société, une famille reposent. C'est ce qui nous unit. Les politiciens l'ont bien compris. Les manuels scolaires sont truffés d'histoires, d'anecdotes édifiantes qui font la société du moment. Par exemple, le roi Léopold II est présenté tantôt comme un bienfaiteur et génie politique, tantôt comme un être sanguinaire et sans scrupules. Grâce au travail de fourmi des historiens, il apparaît que la vérité historique est souvent complexe, ni totalement bonne, ni entièrement mauvaise. Comme le sont tous les êtres humains.
Mais les choses changent. À l'occasion des dernières commémorations liées au camp d'extermination d'Auschwitz, des orateurs ont lancé l'alerte : avec la disparition des derniers témoins, nous arrivons à une époque où le souvenir ne repose plus que sur des témoignages écrits et enregistrés. N'importe qui peut les réinterpréter selon ses propres idées. On peut modifier ou trier des témoignages, les sortir de leur contexte. Cela existe déjà sur les réseaux sociaux où des gens sont mis au pilori de l'opinion publique, sur la base de dires tirés de leur contexte. Le même risque plane sur l'Histoire.
Données "épurées"
L'administration Trump a décidé de revoir la présentation de l'histoire des États-Unis, en éliminant tout ce qui a trait à la diversité, l'équité, l'inclusion. Quantité de données sur les gens de peau noire, sur le rôle des minorités, etc., sont retirées des sites officiels. L'enseignement de l'évolution est déconseillée. C'est vrai dans d'autres pays, comme la Russie. C'est sur de telles données "épurées" et manipulées que l'IA risque de se baser dans le futur. D'autant plus que ni les algorithmes utilisés, ni les données sur lesquelles elle se base ne sont transparents.
Avec l'IA, il ne faudra plus attendre longtemps – pour autant que cela n'existe déjà – pour que l'on fasse dire à n'importe qui le contraire de ce qu'il pense. C'est vrai aussi des écrits. On peut analyser un texte manuscrit et écrire un nouveau texte "de la même main". Bientôt, on pourra trouver une lettre dans laquelle le pape Jean-Paul II demande des nouvelles de son enfant caché à une religieuse qu'il a jadis aimée. On pourra découvrir des pages du manuscrit original de la Guerre des Gaules, écrites par un certain Bartix, issu de la tribu des Ménapiens.
Soumis au feu d'une grande quantité de nouvelles, fausses et vraies, l'esprit critique ne saura qui croire. C'en sera fini de la confiance dans les écrits, dans les images. C'en sera fini de l'Histoire, grande ou petite.
Distinguer le vrai du faux
Aujourd'hui, l'IA repose sur un très grand nombre de données présentes sur le web. Il ne s'agit pas de tout ce que l'Humanité a rassemblé, mais de données nécessairement choisies (le web a une capacité de stockage limitée), jugées importantes ou possédant un certain intérêt par ceux qui les ont écrites (qui ?), voire censurées. Aujourd'hui, ces données sont majoritairement jugées fiables. Mais qu'en sera-t-il demain lorsque le web sera submergé de fake news et autres deepfakes ? Comment l'IA pourra-t-elle distinguer le vrai du faux, le vraisemblable du farfelu ? Nombreux sont les utilisateurs actuels de l'IA qui y ont déjà découvert des choses erronées.
L'IA est conçue pour pouvoir analyser très rapidement une énorme quantité d'informations disséminées dans les ordinateurs du monde entier en quelques décennies. L'IA est un système binaire, qui dit seulement si c'est blanc ou noir. Mais la vérité, ce n'est jamais totalement blanc ni totalement noir. Le cerveau humain est bien moins puissant, mais est capable de distinguer ce qui lui est utile de ce qui ne lui sert pas. Cela résulte à la fois de centaines de millions d'années d'évolution, d'une capacité d'analyse de notre environnement développée depuis notre conception, d'une éducation critique.
La tendance actuelle de tout miser sur l'IA est une menace pour nos sociétés. Il est temps de s'en rendre compte et d'agir avant que les milliardaires du numérique n'aient mis l'Histoire à la poubelle et, par là, détruit toute cohésion dans nos sociétés pour leur profit.

Se Connecter










dans: