← Les Clés
Les Clés
IA : Et si on perdait le contrôle ? (2/4)
00:26:41
Dans ce second épisode de notre série spéciale consacrée à l’IA, nous abordons la face plus cachée de l’intelligence artificielle. Avec Hugues Bersini, professeur et directeur du laboratoire d’intelligence artificielle de l’ULB, nous analysons les conséquences de l...
Loading summary
Transcript37 lines
- [00:00]
Hugues Bersini
On vit une révolution technologique et scientifique comme on en a peu connu. On a délégué à la machine le soin d'apprendre par elle-même.
- [00:06]
Arnaud Reussen
La première.
- [00:07]
Hugues Bersini
Est-ce que vous vous sentez plus intelligent parce que vous utilisez l'intelligence artificielle ?
- [00:11]
Narrator / Host
J'ai besoin de repères.
- [00:12]
Hugues Bersini
C'est un moment d'opportunité pour l'humanité.
- [00:15]
Arnaud Reussen
Les clés.
- [00:15]
Hugues Bersini
J'ai parfois peur qu'au fond ces machines nous privent de notre fragilité.
- [00:20]
Arnaud Reussen
Arnaud Reussen.
- [00:22]
Narrator / Host
Bonjour à toutes, bonjour à tous et bienvenue dans les clés pour la suite de notre série consacrée à l'intelligence artificielle. Dans notre épisode précédent, en compagnie d'Hugues Bersini, professeur à l'ULB, on avait surtout essayé de voir où en était aujourd'hui le développement de cette technologie, de comprendre jusqu'à quel point cette intelligence artificielle comprend les choses au sens d'une compréhension presque humaine et toutes les perspectives qu'elle ouvre. Dans ce numéro-ci, on va se pencher sur ce qu'on pourrait appeler le revers de la médaille, la face souvent plus cachée de l'IA, sa consommation énergétique, la crainte que son contrôle nous échappe, mais aussi, par exemple, tout ce qu'elle pourrait venir modifier dans le marché de l'emploi. On va donc reprendre notre conversation avec le professeur Hugues Bersini, spécialiste de l'intelligence artificielle à l'Université libre de Bruxelles.
- [01:15]
Arnaud Reussen
La première, les clés. Bonjour, comment puis-je vous aider ?
- [01:24]
Narrator / Host
On l'oublie peut-être parfois, mais derrière une requête que l'on formule à l'intelligence artificielle, il y a des machines, des serveurs, des milliards de données consultées et tout cela mobilise des ressources et de l'énergie, beaucoup d'énergie et même de plus en plus. Récemment, l'ingénieur français Jean-Marc Jancovici, initiateur du Shift Project, donnait quelques ordres de grandeur chez nos collègues d'RTL France et le constat qu'il fait est assez vertigineux.
- [01:56]
Jean-Marc Jancovici
Au Shift Project, nous venons de sortir très récemment un rapport pour regarder combien est-ce que les centres de données, les serveurs qui sont nécessaires pour que ce système fonctionne, consommaient d'électricité et émettaient de gaz à effet de serre puisque ces serveurs tournent partout dans le monde. Et partout dans le monde, l'électricité continue d'être faite majoritairement avec du charbon et du gaz. Les chiffres ne sont pas très sympathiques à regarder. La consommation actuelle des centres de données dans le monde, juste des centres de données, donc on ne parle pas des terminaux, on ne parle pas des réseaux, etc. C'est plus que la consommation d'électricité en France. Et la tendance nous emmènerait à un triplement de cette consommation en 10 ans. Ça augmente actuellement de 13% par an, beaucoup plus vite que l'économie mondiale. Et les émissions de gaz à effet de serre associées augmentent de 9% par an, beaucoup plus vite que l'économie mondiale aussi.
- [02:44]
Narrator / Host
Bref, on va vers un défi absolument majeur. Et Hugues Bersini le confirme. Le secteur de l'intelligence artificielle, et au-delà, tout le secteur du numérique, risque de peser de plus en plus lourd dans l'équation énergétique et environnemental.
- [03:02]
Hugues Bersini
Ce n'est pas du tout impossible d'imaginer que tous les secteurs du digital, l'IA a poussé beaucoup parce que ces grands modèles de langage sont très, très consommateurs, mais que l'informatique, le digital deviennent responsables de peut-être 20, 30 ou 40 % des émanations de CO2 si on continue sur cette pente-là. Donc, c'est un vrai problème. Donc, Macron, quand il a fait sa grande messe, il a considéré que la France était bien placée par la possession de ces nombreux centrales nucléaires. Donc oui, si on s'intéresse à l'énergie décarbonée, si on veut une IA aussi consommatrice, aussi énergivore, il va falloir la nourrir, parce que je vois mal comment ça pourrait être différent dans les années à venir. Et c'est vrai qu'il y aura des choix, des arbitrages à faire. Est-ce qu'on a besoin d'avoir des chats députés sur tous les bancs de nos écoliers ? On risque d'ailleurs de diminuer leur intelligence, parce qu'on en a parlé aussi. et de puiser de l'énergie qui peut servir à alimenter les hôpitaux ou rendre les voitures beaucoup moins polluantes, etc. Donc c'est vrai qu'il y a des arbitrages à faire et l'IA est sur une très mauvaise pente. C'est terrifiant la consommation énergétique de l'IA et les projections sont vraiment terrifiantes.
- [04:07]
Narrator / Host
Parce qu'aujourd'hui, on a tendance à utiliser cette intelligence artificielle un peu sans discernement. On a des possibilités, on les utilise, mais on ne réfléchit pas dans un contexte de contraintes énergétiques. On a l'impression jusque-ci de se dire tiens, là, ça aurait vraiment du sens de l'utiliser. Là, beaucoup moins. Ou bien de se dire que peut-être pour certains cas, on devrait simplement baser cette intelligence artificielle sur un réseau de données beaucoup plus réduit. Il y a encore énormément de recherches où on va s'adresser à une masse colossale de données alors qu'on n'en a pas forcément besoin.
- [04:36]
Hugues Bersini
Oui, tout à fait. Mais c'est vrai qu'on perd cet aspect-là quand on manipule un smartphone ou un ordinateur. On ne voit pas le matériel et l'énergie qui sont nécessaires. On a l'impression justement d'un virtuel à outrance, mais c'est comme si l'énergie et le matériel étaient tout autant virtuels. Alors que là, on est en plein matériel, il faut de l'énergie, il faut des gigawatts. C'est colossal. Il y a même des soucis vraiment environnementaux parce que non seulement on parle d'énergie, mais il faut aussi refroidir ces centres de données. Donc, il y a aussi des arbitrages à faire sur la consommation d'eau, sur la consommation d'électricité. Donc oui, c'est un vrai sujet. Alors, il y a des gens qui sont très pessimistes. Il y a des prophètes de l'Apocalypse, et de plus en plus d'ailleurs, qui pensent que les GAFAM n'ont cure de ces problématiques-là, puisque eux sauront s'en tirer dans un monde limité en ressources. Eux auront déployé tout ce qu'il faut pour s'en sortir. Et Elon Musk, je parlais avec un de mes collègues à Paris, il me disait qu'Elon Musk n'a qu'une obsession, c'est la loi zéro d'Azimov, qui dit voilà il faut sauver l'humanité mais si c'est nécessaire au détriment des humains quoi. Et donc il y a vraiment, c'est pas un problème pour eux, c'est pas un problème pour eux d'acheter des centrales nucléaires, d'envoyer 20 ou 30% de plus de CO2 dans l'atmosphère, ils s'en foutent parce que eux survivront dans un monde devenu inviable pour la majorité des humains. On a ce sentiment-là. Je suis vraiment noir ici, mais tout tente à me faire converger vers cette pensée funeste.
- [05:57]
Narrator / Host
Oui, et c'est important à avoir quand même à l'esprit, quand on regarde souvent fasciner les évolutions de cette intelligence artificielle, que ça peut avoir et que ça a déjà ses conséquences-là, mais qui pourraient se démultiplier à l'avenir si la consommation énergétique continue à augmenter.
- [06:11]
Hugues Bersini
Qui va les arrêter ? Qui va les limiter à l'ère de Trump et de Xi Jinping ? Qui va réussir à limiter puisque tout se passe aux Etats-Unis pour l'essentiel ? Alors, nous devrions, nous, Européens, déjà mettre en place une souveraineté européenne, développer des outils, comprendre que Mais nous pouvons le faire, mais il faut aussi que tout le monde nous suive. Vous voyez, si vous regardez l'utilisation de Mistral, l'IA française par rapport à chaque GPT, je crois que c'est 0,005% de nos étudiants qui savent même que Mistral existe, alors que 90% des étudiants utilisent chaque GPT au quotidien. Donc c'est aussi la force de ces outils, c'est qu'ils envahissent notre quotidien et qu'on ne veut pas s'en défaire, qu'on ne comprend pas l'impact que nos gestes ont sur la planète.
- [06:54]
Narrator / Host
Ça, c'est donc un premier gros point noir lié à cette intelligence artificielle. La fuite en avant actuelle, avec en plus une course ultra-concurrentielle entre différents acteurs en train de proposer chacun leur solution d'IA, a des conséquences énormes pour l'énergie et pour la planète, puisque la demande est telle qu'elle outrepasse le rythme de croissance des énergies renouvelables. On consomme donc beaucoup, beaucoup d'énergie fossile pour faire tourner notre monde numérique et on ne voit pas aujourd'hui émerger une vraie réflexion sociétale, un cadre de régulation qui définirait comment répartir au mieux le gâteau énergétique face aux différents besoins essentiels de l'humanité sur une planète dont les ressources, on le sait, sont limitées. Venons-en alors à un autre enjeu qui suscite aussi beaucoup d'inquiétude. Vu la croissance actuelle des performances de l'IA, vu que, on l'a compris dans l'épisode précédent, on ne comprend plus toujours très bien comment fonctionne cette IA, les chemins qu'elle prend pour résoudre certains problèmes, ne risque-t-on pas d'aller vers une IA qui s'émanciperait carrément de l'humain, qui, pour pouvoir se développer toujours plus fort, toujours plus loin, pourrait à un moment juger que les humains sont un problème et vouloir s'en débarrasser ?
- [08:20]
Hugues Bersini
Comme vous savez, ce sont des scénarios qui sont mis en avant par les concepteurs de l'IA, donc c'est relativement préoccupant. Même Hinton, quand il a eu son prix Nobel de physique, donc un des pères de l'IA, la première réaction, ça a été de dire je suis très inquiet de l'évolution de l'IA, ce qui est rare généralement pour un prix Nobel. Donc Hinton disait aussi, je reprends ces mots, dans l'histoire de l'humanité, enfin l'histoire de l'évolution des organismes, on n'a jamais vu un organisme plus intelligent traité avec les égards ou traité avec empathie des organismes moins intelligents. dans l'histoire des proies et prédateurs, on voit qui sont les proies et qui sont les prédateurs. Donc, en effet, si nous développons des machines qui deviennent plus intelligentes que nous, ce qui est le cas déjà dans pas mal de choses, on peut considérer que certaines stratégies de ces machines, pour arriver à leur fin, pourraient faire abstraction de notre existence. D'autant plus qu'elles n'ont pas forcément le souci de la survie de l'humain, ce n'est pas leur préoccupation, on ne les a pas codées pour ça. La survie, pour elles, c'est une pure abstraction. Elles ne savent pas de quoi ça retourne. Donc, c'est en effet possible, comme ces machines sont de plus en plus indépendantes et développent leurs propres intentions, leurs propres planifications. Donc, il va falloir des systèmes très sécuritaires qui s'assurent que ces IA s'alignent toujours avec ce qu'on veut qu'elles fassent, c'est-à-dire qu'on ne soit pas déroutés, détournés. Et donc, c'est compliqué si on ne comprend pas la façon dont elles élaborent leurs plans. Parce que justement, c'est ça l'idée, c'est que si on ne comprend pas, Elles risquent de nous échapper aussi dans le contrôle qu'elles vont avoir. Donc c'est vrai que ce sont des scénarios et il y a d'ailleurs maintenant des entreprises, notamment Joshua Bengio, un autre personnage important dans l'IA, a créé une entreprise au Canada, j'y vais d'ailleurs dans pas longtemps, pour mettre des filets de sauvegarde et que l'IA ne nous échappe pas et commence pas à nous nuire. C'est aussi un peu le but de mon institut, Farid, qui essaie de faire une IA pour les biens publics, pour la mettre au service vraiment des humains à une échelle réduite, l'échelle bruxelloise. Mais bon, il faut bien commencer par quelque chose.
- [10:10]
Narrator / Host
On touche là à un point crucial et qui suscite énormément de débats en ce moment dans la communauté scientifique. Une question qui anime d'ailleurs beaucoup Hugues Bersini au point qu'il a créé, avec d'autres à Bruxelles, un institut, l'institut Fary, dont l'objectif est de mettre l'IA au service du bien public. Et ce que craignent Hugues Bersini et d'autres donc, ce que craignent même certains concepteurs de l'intelligence artificielle, c'est qu'à un moment donné, cette IA nous échappe parce qu'elle fait des choses qu'on ne comprend plus et parce qu'on a insuffisamment balisé ce qu'elle pouvait faire ou ne pas faire. A cela, la réponse habituelle et classique, c'est de dire, s'il y a fait n'importe quoi, il suffira de retirer la prise. Mais Hugues Bersini estime que cette réponse, elle est beaucoup trop naïve et simpliste.
- [11:01]
Hugues Bersini
Ce dont on ne s'en rend pas compte, c'est que tout devient dépendant, si vous voulez, de systèmes informatiques qui sont de plus en plus connectés les uns aux autres. Et c'est très difficile d'enlever la prise. Vous n'avez pas enlevé la prise à Bruxelles en sachant que ça pourrait nuire à un hôpital aux Etats-Unis. Donc tous ces systèmes sont interconnectés. Parfois, cette complexité nous échappe.
- [11:22]
Narrator / Host
Le fait de ne plus toujours comprendre ce qui se passe, le fait qu'on aille de plus en plus loin, qu'en plus on le fasse aux quatre coins du monde avec tous ces systèmes interconnectés, si on n'y prend pas garde, limite le pouvoir de l'humain à encadrer la façon dont fonctionne cette intelligence artificielle.
- [11:39]
Hugues Bersini
Tout à fait. Mais vous savez, c'est le problème de toute complexité. Il y a eu beaucoup d'accidents d'avions. Il y en avait plus avant qu'il n'y en a maintenant parce qu'on n'avait pas non plus une maîtrise complète de tous les événements. Aujourd'hui, maintenant, on prédit plus ou moins tout ce qui peut se passer dans un vol et donc on a limité considérablement les risques d'accidents. C'est un peu ce qu'on vit aujourd'hui avec l'informatique. C'est encore beaucoup plus complexe. Vous savez, les logiciels qui contrôlent les avions, c'est dix paramètres. C'est très, très simple, même si on a l'impression dans un avion que les logiciels sont très simples. Mais les logiciels qui contrôlent les larges modèles de langage, c'est des centaines de milliards de paramètres. Donc, c'est une certaine complexité. Et donc, comprendre exactement quel type de stratégie le logiciel va déployer pour arriver à ses fins, ça nous échappe. Ce n'est pas qu'il a l'intention de nous nuire, c'est que, involontairement, Il pourrait nous nuire, sans aucune intention évidemment, mais simplement parce qu'il a pris une voie qu'on n'avait pas imaginée, comme au Go. On peut considérer que le joueur de Go informatique, il a nui à l'Icidl puisqu'il l'a battu. Mais ce qui était intéressant, c'est qu'il a pris une voie très, très surprenante. Même le joueur d'échecs, d'ailleurs, quand il joue maintenant avec les échecs, il considère que les ouvertures sont très différentes. C'est une nouvelle stratégie. que le logiciel a pris par lui-même. Un jeu d'échecs et un jeu de go, c'est évidemment très contrôlable. Centrale nucléaire, les vols d'avions, c'est quand même bon. S'ils se mettent aussi à développer des stratégies auxquelles on n'a pas imaginé, on pourrait être quand même très, très surpris de ce qui va se passer.
- [13:01]
Narrator / Host
Mais est-ce que ça veut dire qu'à un moment donné, cette intelligence artificielle pourrait aller jusqu'à avoir, selon vous, Hugues Bersini, une sorte de conscience d'elle-même et de volonté, du coup, de ne pas être bridée ou de pouvoir aller plus loin dans ce qu'elle veut faire. Et du coup, une espèce de fuite en avant, puis de cercles vicieux. Ça, c'est quelque chose qui, d'un point de vue d'analyse de comment ça fonctionne, d'un point de vue informatique, c'est quelque chose qu'on doit réfléchir, envisager.
- [13:27]
Hugues Bersini
Ah oui, tout à fait. C'est le scénario à 2001, c'est de l'espace, quand Hal a sa mission qu'il veut accomplir jusqu'à son terme et que la seule manière pour les astronautes dans ce film, assez prémonitoire, c'est de petit à petit le débrancher et d'enlever tous les circuits. De nouveau, je pense que l'IA n'aura jamais l'intention de mettre fin à l'humanité. Mais si on lui donne une intention qui est, par exemple, de maximiser la vitesse d'un satellite ou de la production d'une chaîne de montage automobile, s'il y a un certain moment, elle décide de prendre un chemin auquel on n'avait pas pensé et que ce chemin, par exemple, c'est de détourner un générateur d'électricité dans un hôpital, etc. Bon, il va occasionner la mort de milliers de personnes pour simplement augmenter la production d'une chaîne de montage. Et bien sûr, il ne s'en rendra pas compte. Il ne sait pas qu'il a occasionné la mort de des milliers de personnes, mais ça faisait partie d'une stratégie d'efficacité pour une autre mission, une autre intention qu'un humain lui avait désignée. Mais lui a pris un chemin auquel on n'avait pas pensé.
- [14:23]
Narrator / Host
Et vous avez l'impression qu'aujourd'hui, on a suffisamment conscience de ces risques-là, qu'on pense assez les garde-fous, qu'au niveau des États, notamment, on pense à baliser le fonctionnement, l'utilisation, qu'on met des règles à l'intelligence artificielle pour éviter qu'on aille à ces extrémités-là ?
- [14:42]
Hugues Bersini
Alors, l'Europe en a conscience puisqu'il y a quand même aujourd'hui tout un système de régulation qui est mis en place. Donc, vous savez, l'IA Act est en train d'essayer de séparer les systèmes à bas risque des systèmes à haut risque. Donc il y a une conscience que certains systèmes ont potentiellement la capacité d'être extraordinairement dangereux pour les êtres humains. Donc l'Europe régule, mais comme très souvent on dit, l'Europe régule et ceux qui produisent sont aux États-Unis ou en Chine. Et comme vous avez vu, l'ère qui vient, l'ère trumpiste et l'ère chinoise, n'est pas très rassurante. C'est-à-dire qu'on essaye de débrider l'IA parce que je pense que c'est Poutine qui avait dit que ceux qui maîtriseront l'IA seront les maîtres du monde. Et il y a un peu de ça. Il y a un peu une course à la meilleure IA, la plus intelligente, la plus performante. Et donc on essaie de débrider parce que tout système de régulation est un système de frein. Et on ne veut pas ça. Les Américains ne veulent pas ça. Les Chinois ne veulent pas ça. Donc ces deux-là se font la course parce que l'Europe compte très, très peu pour ces deux géants. Et comme je vous le dis, je ne suis pas très, très, très, très convaincu de l'empathie des géants de la tech.
- [15:48]
Narrator / Host
C'est interpellant ça, je trouve, que des personnes qui connaissent aussi bien l'IA qu'Hugues Bersini, quelqu'un de plutôt enthousiaste d'ailleurs a priori sur tout ce qu'elle pourrait permettre comme progrès pour notre humanité, que des personnes comme cela mettent en avant ce scénario possiblement sombre d'une IA qui nous échapperait. pas parce qu'elle aurait tout d'un coup un dessin de suppression de l'humanité, mais parce qu'on ne comprend plus très bien ce qu'elle fait, parce que l'interconnexion mondiale empêche de s'entendre sur des balises claires et communes, empêche de sécuriser cette IA, parce que nos intérêts humains pourraient se retrouver en contradiction avec les objectifs d'optimisation qu'on a fixés à la machine. Il y a là un enjeu pour l'humanité tout entière. Un autre point qui suscite encore beaucoup de questions, c'est l'enjeu de l'emploi. Et là aussi, Hugues Bersini s'attend à des bouleversements profonds.
- [16:47]
Hugues Bersini
Moi, j'ai tendance à dire, quand on me pose la question sur l'éventuelle disparition des emplois, j'ai tendance à dire que tout ce que vous faites devant un écran, vraiment tout ce que vous faites devant un écran, répondre à des mails, écrire un rapport, produire un texte, tout cela peut être remplacé par une IA. Donc, le temps que vous passez devant un écran, demain, ça n'est plus à vous d'y passer. Alors, quand vous voyez, imaginez un peu le temps que que tout le monde passe devant les écrans. En plus, on a beaucoup digitalisé. Donc, en fait, on a donné beaucoup de matière à l'IA. Donc, ça, c'est vraiment du pain béni pour l'IA. Donc, je pense que les métiers qui sont le moins à risque, c'est les métiers dans lesquels il y a d'abord une composante physique, une composante sociale, une composante émotionnelle, une composante relationnelle. Ça, ce sont des métiers pour lesquels l'IA est quand même très, très en reste. Mais ce que vous faites devant un écran, oui, demain, ça ne sera plus vous, ça sera l'IA. Puisque quand vous êtes devant un écran, vous utilisez un matériel déjà traduit en bits et du digital. Donc, c'est vraiment du pain béni pour l'IA. Donc, je pense que toutes ces tâches-là, qui sont beaucoup des tâches administratives, on passe beaucoup de temps à écrire des rapports, à se justifier, à répondre à des mails, etc. Ça, ça va être confié à l'IA. Alors, si des boulots sont largement, je dirais, dépendants de cette pratique-là, ce sont des boulots qui sont quand même considérablement menacés.
- [18:09]
Narrator / Host
À ce sujet d'ailleurs, on commence maintenant à voir de premiers chiffres venus d'outre-Atlantique qui montrent les premiers effets concrets de l'IA sur l'emploi. Des constats plus qu'interpellants que nous détaille Sarah Poussey.
- [18:25]
Arnaud Reussen
Les États-Unis voient les chiffres du chômage augmenter ces derniers mois. Mais la réserve fédérale américaine a analysé que c'est parmi la population des jeunes diplômés que ces chiffres ont anormalement grimpé, jusqu'à près de 6%. La Fed constate une détérioration notable dans l'emploi pour les jeunes travailleurs et l'IA fait partie des causes. À la rentrée 2025, le cabinet d'audit PWC a par exemple recruté 200 jeunes de moins que l'année dernière, car l'intelligence artificielle a comblé une partie des besoins. D'autres analyses pointent une perte de plus de 130 000 postes en seulement un an pour le secteur des technologies de l'information. Au Royaume-Uni, plus d'un tiers des patrons d'entreprises s'attendent à engager moins de profils juniors grâce aux performances de l'IA. Cette proportion grimpe jusqu'à 60% en Chine, contre un quart des patrons en France. Dès lors, une question se pose. Comment devenir un profil expérimenté si tous les postes juniors qui permettent de se former sont remplacés par de l'intelligence artificielle ? Ces constats sont particulièrement valables pour les métiers techniques où l'IA se développe rapidement, par exemple les secteurs de la finance ou de l'informatique. Les postes de génie logiciel ou de codeur deviennent ainsi rares car l'IA peut s'en charger. Plus globalement, le PDG de Ford s'est aussi inquiété que l'IA ne remplace la moitié des métiers dits en col blanc. Un autre PDG d'une start-up d'IA prévoit, lui, que le chômage passera de 10 à 20% en 5 ans aux Etats-Unis. Au-delà des licenciements, un organisme britannique a aussi identifié une tendance inquiétante. Face à un besoin dans leur entreprise, un tiers des responsables interrogés se tournent d'abord vers les solutions que propose l'intelligence artificielle avant même d'envisager le recrutement d'un humain.
- [20:33]
Narrator / Host
Venons-en alors à une dernière question. Est-ce que l'omniprésence de l'intelligence artificielle dans nos sociétés ne risque pas à terme d'artificialiser en quelque sorte nos intelligences, de modifier notre façon de penser au vu de tous les effets que le numérique a déjà aujourd'hui sur nos cerveaux.
- [20:55]
Hugues Bersini
Il y a une déferlante d'impact sur nos systèmes cognitifs, nos systèmes relationnels, nos systèmes sociaux. dont déjà les réseaux sociaux sont en partie responsables, mais ça ne fait que s'amplifier avec l'IA. Il y a déjà des études d'ailleurs qui ont été produites au MIT sur l'impact cognitif des enfants de l'intelligence artificielle. On voit déjà des zones du cerveau qui sont moins activées et dont les tissus synaptiques, ce qui prouve l'apprentissage des enfants, sont moins densément peuplés que chez d'autres enfants. Donc l'IA déjà diminue les facultés intellectuelles de nos enfants. Et donc, c'est vrai qu'en plus, on a un certain formatage de la pensée, une certaine uniformisation de la pensée que l'IA va transmettre. Il y a une perte de créativité. On va s'imiter de plus en plus. Donc oui, tout cela est vrai. Ce n'est pas rassurant. Ma principale crainte pour l'instant, c'est vraiment les enfants. Parce qu'on pourrait dire que les adultes, jusqu'à un certain point, c'est-à-dire arrivent quand ils ont un certain âge. Je ne dirais pas qu'ils sont totalement vaccinés, mais ils ont déjà développé une forme d'esprit critique, de culture. Je ne dirais peut-être pas pour l'essentiel d'entre eux, mais en tout cas pour déjà une large partie d'entre eux. Les enfants, c'est beaucoup plus malléable, beaucoup plus... Et donc, si on empêche à l'enfant de créer son propre esprit éthique, sa propre faculté de créativité, parce que quoi qu'il fasse, une réponse lui est donnée sur un plateau d'argent, c'est très préoccupant sur l'évolution cognitive de nos enfants. Il y a non seulement une baisse d'intelligence, mais il y a aussi un formatage de la pensée qui... Voilà. Donc, c'est très préoccupant. Il faut vraiment se questionner aujourd'hui sur l'utilisation de chat GPT dans les écoles.
- [22:22]
Narrator / Host
Et de temps en temps, est-ce que vous ne vous dites pas, vous, en tant qu'informaticien qui a travaillé aussi sur l'élaboration de cette intelligence artificielle, que peut-être on a créé un monstre ? Est-ce que vous ne vous dites pas de temps en temps, mais quand je vois le nombre d'impacts que ça pourrait avoir, est-ce qu'on a bien fait ? Ou bien est-ce que vous parvenez encore à voir tout ce que ça peut amener aussi de positif ? Et on sait qu'il y a énormément de domaines, on peut citer ne serait-ce que la santé ou l'intelligence artificielle peut améliorer les choses. Comment est-ce que vous voyez la balance entre ces risques très importants, notamment au niveau énergétique, au niveau d'une perte de contrôle, Et puis, ce que ça peut nous amener de positif, d'amélioration de la vie humaine ?
- [23:03]
Hugues Bersini
Alors, on ne peut pas mieux dire puisque moi, bien sûr, j'en suis très, très conscient et j'ai tout de suite, très tôt dans ma carrière de scientifique, j'ai constaté qu'il y avait des utilisations positives, massives de cette IA pour améliorer la consommation énergétique, pour améliorer la mobilité, pour améliorer la santé publique, bien sûr, la médecine, pour améliorer l'accès à l'emploi, pour améliorer énormément de choses avec cette IA, pour autant qu'on l'utilisait d'une certaine manière. Donc c'est vrai que les utilisations qu'on en a faites, si vous prenez même la naissance du web, le web pouvait être un projet extraordinairement libérateur, C'était d'ailleurs un projet très libertarien et puis vous avez vu que ça a été détourné par quelques génies, en plus quelques économistes aussi de grand talent, qui l'ont complètement recentralisé, redétourné. Donc, c'est une IA qui est aussi, qui se prête assez facilement. Alors, je suis de ceux qui pensent que la technologie a un certain degré de neutralité, mais c'est vrai qu'une technologie, s'il y a 1% de manière de la rendre malveillante et 99% de la rendre bienveillante, il y aura toujours un quelque malin. Et si la rendre malveillante, c'est se faire un maximum d'argent, Vous allez voir que très vite, les gens vont s'y engouffrer. Donc moi, je me bats au quotidien pour une IA respectueuse des humains, des biens publics. C'est pour ça qu'on a créé l'Institut Fary. Mais c'est une bataille difficile et c'est une bataille qui, malheureusement, n'est pas suffisamment relayée par nos gouvernants, par nos administrations, qui prennent souvent le pli de la facilité, c'est-à-dire qui délèguent au GAFAM le monde universitaire, je ne sais pas, le monde journalistique, mais peut-être que vous êtes aussi envahis par les outils Microsoft, etc. Alors que souvent, il y a eu des offres alternatives. Même pour l'IA, il y a des offres alternatives aujourd'hui. Je vous recommande vraiment d'utiliser les outils européens, donc déjà pour se dégager de cette emprise. Mais la solution de facilité, c'est de faire appel à ces outils-là. Et donc c'est dommage que nos gouvernants n'ont pas suffisamment conscience qu'il y a des alternatives qui sont peut-être moins efficaces. Mais a-t-on besoin aussi de ce délire d'efficacité ? On peut faire avec moins efficace mais avec plus d'humains que de faire plus efficace avec moins d'humains. Donc c'est des choix politiques souvent qui sont un peu décourageants parce qu'il y a un manque de culture de cette réalité parmi nos gouvernants, nos décideurs. Et donc tout n'est pas perdu. Je pense que l'Europe est en train de s'armer. Mais ça doit se faire déjà à l'échelle européenne. Il faudrait déjà que l'Europe s'entende. Il y a des grands projets européens de régulation de l'IA et de production de leur propre IA. Je pense qu'il faut encourager là. Parce que ce qui se passe aux Etats-Unis, on peut espérer que la situation s'inverse à un certain moment, mais ce qui se passe aux Etats-Unis et en Chine n'est pas de nature à nous rassurer.
- [25:33]
Narrator / Host
Voilà, qui sonne donc comme une alarme lancée par Hugues Bersini, qui estime donc qu'il est urgent de penser tous les impacts de l'IA, de ne pas laisser au seul géant de la tech, aux Etats-Unis et en Chine, le monopole du développement d'un outil qui pourrait avoir des impacts énormes sur nos sociétés. Le but de ce podcast, c'est d'aussi allumer ces voyants-là pour nourrir le débat public sur ces questions. Merci à Hugues Bersini, professeur à l'ULB et à l'origine de l'Institut Fary pour une IA au service du bien commun d'avoir été avec nous. Merci à Laurent Nélissen pour la réalisation sonore de cet épisode. A la préparation, il y avait Sarah Pousset et Arnaud Reussen. Dans notre prochain numéro dans cette série sur l'IA, on entrera dans le détail de tout ce que l'intelligence artificielle pourrait venir changer dans le monde de la santé. Toute la série est évidemment disponible sur Ovio et sur vos plateformes de téléchargement.