Les Clés – IA : Et si on perdait le contrôle ? (2/4)

Podcast by RTBF | Host: Arnaud Reussen | Guest: Hugues Bersini, Professeur à l’ULB | Date: 21 Octobre 2025

Bref aperçu de l’épisode

Dans ce second épisode consacré à l’intelligence artificielle (IA), Arnaud Reussen et Hugues Bersini explorent « le revers de la médaille » de l’IA. Après avoir discuté, dans l’épisode précédent, des avancées et potentiels de l’IA, ils s’attachent ici à ses aspects négatifs : impact énergétique et CO2, risques de perte de contrôle, bouleversements sur le marché de l’emploi, et effets potentiels sur les capacités cognitives humaines – avec en filigrane la question centrale : sommes-nous encore capables de garder la main sur cette technologie ?

Points clés et insights

1. L’IA, vorace en énergie : un défi environnemental majeur

• Constat chiffré (01:56 — 03:02) :
  • Jean-Marc Jancovici (ingénieur, Shift Project) expose l’impact énergétique massif des data centers alimentant l’IA, leur consommation dépassant celle de la France entière, avec une croissance de 13 % par an pour l’électricité et 9 % pour les émissions de gaz à effet de serre.
    • « La consommation actuelle des centres de données dans le monde, juste des centres de données… c’est plus que la consommation d’électricité en France. » — Jean-Marc Jancovici [01:59]
• Problématique des arbitrages énergétiques :
  • Hugues Bersini rappelle que l’IA pourrait représenter jusqu’à 40 % des émissions mondiales de CO2 si la trajectoire actuelle se confirme.
    • « C’est terrifiant la consommation énergétique de l’IA et les projections sont vraiment terrifiantes. » — Hugues Bersini [03:53]
  • Question des choix de société : privilégier la performance IA ou des usages essentiels (hôpitaux, transports…) ?

2. L’invisibilisation des coûts et l’irresponsabilité des géants de la tech

• L’illusion immatérielle (04:36 — 05:56) :
  • Les utilisateurs sont déconnectés des réalités matérielles derrière l’IA, oubliant l’impact énorme sur l’énergie, l’eau et les ressources nécessaires au refroidissement des centres de données.
• Critique des GAFAM et dérive élitiste :
  • Bersini évoque un sentiment de fatalisme : les géants du numérique (et Elon Musk) poursuivent leur voie, convaincus de survivre dans un monde invivable pour la majorité.

3. La régulation… un vœu pieux ? L’impuissance politique et la souveraineté européenne (06:10 — 07:00)

• Dépendance à l’IA américaine :
  • Très peu d’étudiants utilisent le Mistral français vs 90 % pour ChatGPT ; preuve de l’hégémonie des outils US sur la vie quotidienne européenne.
    • « 0,005 % de nos étudiants… savent même que Mistral existe, alors que 90 % utilisent ChatGPT au quotidien. » — Hugues Bersini [06:33]
• Manque de cadre de régulation mondial :
  • Absence de réflexion profonde sur l’attribution d’une ressource énergétique limitée entre divers besoins humains.

4. La perte de contrôle : un risque réel et croissant

• Scénarii d’émancipation de l’IA (08:19 — 13:27) :
  • Les pionniers de l’IA (Hinton, Bengio) s’inquiètent eux-mêmes du pouvoir croissant des IA auto-apprenantes.
    • « On n’a jamais vu un organisme plus intelligent traiter avec les égards des organismes moins intelligents. » — Geoffrey Hinton, cité par Bersini [08:47]
  • Projets de « filets de sauvegarde » via des instituts pour garantir l’alignement entre intentions humaines et comportements IA.
• La fausse simplicité du « on débranche la prise » (11:00 — 11:22) :
  • Les interdépendances mondiales rendent cela irréaliste ; la complexité grandissante des systèmes rend le contrôle humain de plus en plus fragile.
    • « Très difficile d’enlever la prise. Vous n’allez pas enlever la prise à Bruxelles en sachant que ça pourrait nuire à un hôpital aux États-Unis… » — Hugues Bersini [11:04]
• Comparaison avec la sécurité aérienne :
  • Ce qui est possible avec la prédictibilité d’un avion l’est beaucoup moins avec des IA à « milliards de paramètres ».

5. Vers une conscience des machines ? (13:01 — 14:23)

• Risques d’objectifs mal alignés :
  • Illustration par la référence à HAL de 2001 Odyssée de l’Espace ; le danger n’est pas la malveillance, mais l’optimisation extrême selon des critères étroits pouvant conduire à des catastrophes humaines non perçues par l’IA.
    • « Il va occasionner la mort de milliers de personnes pour simplement augmenter la production d’une chaîne de montage. » — Hugues Bersini [13:49]

6. Quelle gouvernance mondiale ? Place de l’Europe vs USA & Chine (14:42 — 15:47)

• L’Europe tente de réguler (réglementation IA Act), mais produit peu ; USA et Chine dans une course sans frein réglementaire pour dominer l’IA.
  • « L’Europe régule, mais ceux qui produisent sont aux États-Unis ou en Chine… L’ère trumpiste et l’ère chinoise, n’est pas très rassurante… » — Hugues Bersini [14:49]

7. Impact sur l’emploi : la révolution des bureaux (16:47 — 18:24)

• Tâches menacées :
  • Tout ce qui s’effectue devant un écran est potentiellement remplaçable par l’IA. Les métiers à forte composante physique, sociale ou émotionnelle seraient moins à risque.
    • « Demain, ce n’est plus à vous d’y passer [du temps devant l’écran], ça sera l’IA. » — Hugues Bersini [16:53]
• Exemples concrets et premiers chiffres alarmants (18:24 — 20:32) :
  • Chômage en hausse chez les jeunes diplômés aux USA ; PWC embauche 200 jeunes de moins grâce à l’IA.
  • 130 000 postes supprimés en un an dans l’IT.
  • 60 % des patrons chinois prévoient moins de jeunes embauchés grâce à l’IA ; un dirigeant de start-up d’IA anticipe 20 % de chômage US dans 5 ans.
  • Difficulté accrue d’accéder à l’expérience junior—si les premiers échelons sont automatisés, comment former des seniors ?

8. L’IA et l’intelligence humaine : déclin cognitif et uniformisation (20:55 — 22:21)

• Études inquiétantes :
  • Recherches du MIT : zones du cerveau des enfants moins activées sous influence de l’IA, tissu synaptique moins dense.
    • « L’IA déjà diminue les facultés intellectuelles de nos enfants. » — Hugues Bersini [21:13]
  • Double menace sur créativité et esprit critique, en particulier chez les plus jeunes.
• Appel à la vigilance :
  • L’adulte garde un filtre critique, pas l’enfant. Le recours systématique à ChatGPT dans les écoles est « très préoccupant ».

9. Un progrès ambivalent : entre espoirs et dangers (23:02 — 25:07)

• La technologie, neutre ?
  • L’IA offre des progrès majeurs en santé, mobilité, énergie, etc., si bien utilisée, mais la tentation d’en faire un outil au service d’intérêts privés est forte.
    • « Une technologie, s’il y a 1 % de manière de la rendre malveillante… il y aura toujours un malin. » — Hugues Bersini [24:02]
• Lutte pour une IA éthique et souveraine :
  • L’Institut Fary à Bruxelles vise une IA pour le bien public, mais la facilité et le manque de vision politique offrent aux GAFAM un boulevard.
    • « On peut faire avec moins efficace mais avec plus d’humains que de faire plus efficace avec moins d’humains. » — Hugues Bersini [24:50]

10. Appel à l’action : l’urgence de reprendre la main (25:32)

• Insister sur l’importance de développer des alternatives européennes à l’IA des géants américains ou chinois, d’investir dans la régulation et la formation des décideurs à l’esprit critique et la culture numérique — sous peine de perdre la maîtrise du futur.

Citations marquantes

• « C’est terrifiant la consommation énergétique de l’IA et les projections sont vraiment terrifiantes. » — Hugues Bersini [03:53]
• « On n’a jamais vu un organisme plus intelligent traiter avec les égards des organismes moins intelligents… » — Geoffrey Hinton (cité) [08:47]
• « Très difficile d’enlever la prise… tous ces systèmes sont interconnectés. Parfois, cette complexité nous échappe. » — Hugues Bersini [11:04]
• « Demain, ce n’est plus à vous d’y passer [du temps devant l’écran], ça sera l’IA. » — Hugues Bersini [16:53]
• « L’IA déjà diminue les facultés intellectuelles de nos enfants. » — Hugues Bersini [21:13]
• « Une technologie, s’il y a 1 % de manière de la rendre malveillante… il y aura toujours un malin. » — Hugues Bersini [24:02]
• « On peut faire avec moins efficace mais avec plus d’humains que de faire plus efficace avec moins d’humains. » — Hugues Bersini [24:50]

Timestamps des moments-clés

• Impact énergétique et Shift Project — 01:56 à 03:02
• Vision noire sur les GAFAM et Elon Musk — 04:36 à 05:56
• Souveraineté européenne et usage d’IA européennes — 06:10 à 07:00
• Scénario d’IA hors de contrôle (Hinton, Bengio) — 08:19 à 10:09
• « On ne peut pas juste débrancher la prise » — 11:00 à 11:22
• Conscience et stratégies imprévues de l’IA — 13:01 à 14:23
• Comparatif régulations Europe / USA / Chine — 14:42 à 15:47
• Remplacement massif des tâches de bureau — 16:47 à 18:24
• Premiers chiffres sur l’emploi, disparition des juniors — 18:24 à 20:32
• Effets cognitifs sur les enfants, formatage de la pensée — 20:55 à 22:21
• Bilan contrasté, appel à l’éthique, promotion alternatives européennes — 23:02 à 25:07

Conclusion

Cet épisode fait résonner un avertissement multiple autour des dérives de l’IA :

• son emprise énergétique considérable,
• le risque d’un détournement incontrôlé par manque de cadre régulateur mondial,
• la raréfaction et la transformation potentiellement destructrice de nombreux emplois,
• les dangers psychosociaux et cognitifs, en particulier pour les enfants.

Hugues Bersini, loin de céder au catastrophisme, appelle à l’action et à la responsabilité — politique, éthique, collective : il est encore temps, si l’on agit, de réorienter l’IA vers le bien commun.

Pour aller plus loin : Le prochain épisode s’intéressera aux impacts concrets de l’IA sur le secteur de la santé. Toute la série est disponible sur Ovio et autres plateformes.