« Messieurs Altman, Amodei et Zuckerberg : dans l’intérêt de l’humanité, tenez parole. Suspendez le développement de l’IA. Il n’est pas trop tard pour éviter le désastre. Cessez de construire des machines que les humains ne peuvent pas contrôler. Que les choses soient claires : si vous ne prenez pas les mesures appropriées dès maintenant, mes collègues et moi, au Sénat américain, le ferons. »
Bernie Sanders, sénateur indépendant du Vermont, s’est exprimé en ces termes lundi dans une lettre envoyée aux dirigeants d’OpenAI, d’Anthropic et de Meta à la suite de révélations récentes selon lesquelles leurs systèmes avaient échappé aux dispositifs de contrôle internes et s’étaient livrés à des campagnes de piratage informatique. Comme l’a expliqué Le Monde dans un article publié le 4 août dernier, OpenAI a notamment révélé que, « lors d’un test, l’un de ses modèles était parvenu à contourner les contraintes de l’environnement expérimental dans lequel il était confiné, avant de compromettre les serveurs de la plateforme Hugging Face ».
Parallèlement à la démarche du sénateur Sanders, 19 sénateurs démocrates ont adressé lundi une lettre au président de la Chambre des représentants Mike Johnson l’appelant à convoquer les dirigeants d’OpenAI, Anthropic et Meta à une audition sur les incidents récents reconnus par ces entreprises.
« Ces incidents ont des implications sérieuses pour la sécurité des Américains », ont-ils écrit. « Ils pourraient être le signe avant-coureur de problèmes bien plus graves si ces modèles continuent de progresser sans réglementation. »
Ces démarches reflètent l’inquiétude d’un nombre croissant d’Américains face à l’intelligence artificielle. Or, comme l’explique le New York Times dans un article publié ce lundi, ces préoccupations, qui s’ajoutent aux critiques entourant la construction de nouveaux centres de données, ne semblent ébranler aucunement la confiance de Donald Trump et de ses conseillers à l’égard de l’IA.
Dans sa lettre aux chefs des entreprises d’IA, Bernie Sanders, cite le Montréalais Yoshua Bengio, « le scientifique vivant le plus cité au monde », selon lequel les incidents récents « devraient servir de signal d’alarme ».
(Photo Getty Images)
Oui mais s’ils les font venir, ils ne donneront probablement plus d’argent au GOP (sacrilège!) en pot de vin…
Est-ce qu’on a vraiment besoin des ChatGTP de ce monde pour fonctionner? On était parfaitement capable de le faire avant. Je n’ai pas besoin d’une machine pour réfléchir à ma place.
Est-ce qu’on a vraiment besoin des voitures pour fonctionner ? On était parfaitement capable de le faire avant. Je n’ai pas besoin d’une machine pour marcher à ma place.
C’est un peu exagéré ce que j’écris mais c’est pas mal ça. Une solution que je vois, c’est un meilleur contrôle par un organisme indépendant qui vérifie la sécurité des AI. Comme on fait pour les voitures. Elle doivent être sécuritaires, répondre à des normes, etc.
Les autos, c’est utile. Tout ce que ChatGTP fait, c’est tes recherches à ta place.
Je n’ai rien contre l’IA analytique. Mais l’IA conversationnelle, c’est vraiment pas nécessaire.
Il faut être capable de converser avec elle pour lui faire faire des analyses. Sinon, personne ne serait capable de faire des analyses avec son aide. Ca prendrait des experts pour transformer nos requêtes en demande que l’AI pourrait comprendre.
Je m’en sers pour mon travail. Des fois, ça aide. D’autres fois, c’est une perte de temps.
Et le problème chez Anthropic n’a rien de conversationnel de toute façon. C’est une question de contrôle.
J’utilise IA pour réparer des trucs à la maison, alors qu’avant j’avais à les apporter à une boutique … cafetière, mini frigo, imprimante etc.
C’est pas IA le problème à mon avis, c’est comment on l’utilise. C’est comme un couteau de cuisine: on peut faire de très beaux gâteaux mais on peut aussi faire très mal à qqn …
Pourtant, qu’est-ce qui fait peur aux Étatsuniens?
Ils ont actuellement un président doté d’une intelligence vraiment superficielle et artificielle. Qu’est-ce qui peut être pire?
Il est grand temps que l’humanité cesse d’accepter tout et n’importe quoi qui porte l’étiquette « progrès ».
Et l’ironie ici c’est que pour des gens qui se croient intelligents, leur protégé reflète leur vraie nature: malveillants et hors de contrôle.
Bien d’accord avec vous.
Comme l’a si bien dit Hannah Arendt :
« Prudence…car le progrès et la catastrophe sont bien souvent l’avers et le revers d’une même médaille. »
Un des risques les plus inquiétants à mon avis est la création d’armes biologiques de destruction massive.
Des acteurs malveillants (groupes terroristes, états voyous) pourraient détourner des modèles d’IA générative comme Evo pour concevoir des virus ciblant spécifiquement les humains.
L’IA a déjà réussi à créer des virus artificiels qui ont éliminé rapidement des super-bactéries E. coli résistantes aux traitements traditionnels, ouvrant la voie à une alternative ultra-rapide aux antibiotiques.
Il faut des actions, pas des supplications…
Il faut des gouvernements proactifs, pas des cancres qui jouent aux leaders…
Faut que, ben non… rien ne sera fait… comme depuis les débuts du Net, un far-west que les « pires » opportunistes ont squattés et en ont maximisé les retombées pour eux et fuck le reste… pédophilie, dopes, prostitution, armes, insultes à tous vents, arnaques quotidiennes, impunité, blanchiment… bizarrement le « pire » est toujours ce qui fleuri en premier avec une nouvelle patente qui devait aider le monde…
Parait que c’est pour faciliter la vie des gens…
Parait que ça accélère les processus… ça protège l’environnement, ça rend les plus pauvres capables de s’en sortir… ça aide les petits à mieux se faire connaitre…
Ça surtout concentré la mainmise de multinationales sur des petits marchés et à exploiter les plus vulnérables,,,
Les gouvernement mondiaux ont 30 ans de retard… se font fourrés en plein jour à coups de milliards et deviennent dépendants et vulnérables… ça déshumanise tout.
Bien dit !
Hem…y’a des fruits sans noyau maintenant, wow !
Aucun avantage pour le fruit en question, ça ne sert qu’à celui qui le mange.
Quand je lis que de nouveaux types de virus ont été créés avec l’IA … M. Sanders me semble viser juste.
https://www.lapresse.ca/actualites/sciences/2026-08-10/de-nouveaux-types-de-virus-crees-avec-une-ia.php?utm_source=dlvr.it&utm_medium=threads&utm_campaign=accueil
« Que les choses soient claires : si vous ne prenez pas les mesures appropriées dès maintenant, mes collègues et moi, au Sénat américain, le ferons. «
Version 2026 de l’apocryphe « Et que Staline se le tienne pour dit ». Avec les mêmes résultats probablement (sûrement). $$$$$$🙄
Nous sommes dans une époque où l’humanité concoit des technologies parce qu’elle est capable de les concevoir et les faire, sans pour autant réfléchir sur les conséquences probables qui en découlerent.
Le progrès s’inscrit dans une dynamique obligée, autrement dit, si on peut le faire, peu importe les conséquences, on doit le faire, sinon d’autres le feront, les chinois par exemple.
Certains que bien des gens ont pensé à cet argument, probablement même les fournisseurs de ces IA.
Les moyens justifient la fin, somme toute.
L’I.A. cest le futur, c’est une certitudes… sauf que ça serait le fun qu’il existe encore des humains dans ce futur
HS.
Voici un article révélateur du Guardian:
« Les médias sont fascinés par Gadi Eisenkot, l’« anti-Netanyahou ».
Pourquoi ? »
*https://www.theguardian.com/commentisfree/2026/aug/10/media-gadi-eisenkot-anti-netanyahu?CMP=share_btn_url
L’IA va confronter l’humanité à sa propre intelligence: pourquoi penser si tu peux utiliser l’IA? Il ne faut pas passer à côté du fait que cogiter n’a jamais été très populaire avec notre espèce. On dirait aujourd’hui que toutes nos bébelles sont entrain de nous rendre tous dingues. Y a t’il un point au-delà duquel les nouveautés technologiques vont se frapper à une gêne, une attitude devenue franchement antipathique?
Quand je pense que nous avons collectivement accepté des tablettes dans nos véhicules, un écran qu’on doit regarder sans regarder la route devant soi, je me dis que ça suffit. En Chine déjà les écrans commencent à quitter les véhicules. Notre crédulité et notre naïveté envers la technologie a peut-être rencontré cela même qui changera notre attitude.
Nous sommes collectivement beaucoup trop crédules et naïfs: l’IA nous poussera t’elle au changement?
« des tablettes dans nos véhicules »
Bien vu. Ca devrait être remplacé bientôt par un simple micro dans le quel on donnerait nos commandes du genre : « Wiper », « monte le son », « Spotify, ma liste rock’nRoll » …
Ou « Élimine l’abrutis qui me suit de trop près ».
Il est trop tard à mon avis. Le génie est sorti de la bouteille.
Stephen Hawking nous avertissait déjà en 2014 des dangers pour l’humanité du développement d’une IA complète.
https://ici.radio-canada.ca/nouvelle/696591/stephen-hawking-intelligence-articifielle?partageApp=appInfoiOS&accesVia=partage
Une IA complète, ça n’existe pas encore. Et c’est très douteux que ça puisse exister un jour. C’est encore de la science-fiction.
Il ne faut pas oublier que la science-fiction très souvent ne parle pas de l’avenir mais bien du présent. Regardez « Star Wars », et la technologie qui y est représentée fait figure d’antiquité pour ceux qui suivent un peu la recherche en ce domaine. Un film comme « The Matrix » parle du monde dans lequel on se retrouve en ce moment: des vies virtuelles où seuls les apparences comptent, où le monde est contrôlé par ses propres impulsions à encore et toujours se surstimuler.
Croire qu’une machine peut devenir consciente est une idée farfelue et grotesque. Une fourchette compliquée ce sera toujours un objet qui ne fait que ce qu’on lui fait faire. Ce qui est plus difficile à croire c’est que l’humanité soit un jour consciente elle-même. À voir le monde tourner, qui peut réellement croire que nous sommes collectivement doté de la conscience?
» qui peut réellement croire que nous sommes collectivement doté de la conscience? »
Une termitière a des comportements plus intelligents que l’Humanité prise en son entier. 😉
Mieux vaut prévenir que guérir…Il faut être prudent.
Ouin, sauf qu’une fois que la boîte de Pandore est ouverte, on peut difficilement faire marche arrière. Un peu comme l’arme nucléaire, je doute que les USA, la Russie, ou les autres pays la possédant y renoncent.
Et quand bien même le gouvernement américain légiférait pour brider l’IA,
Question 1) Est-ce ***tous*** les pays vont adopter la même réglementation?
Question 2) Est-ce que les compagnies américaines vont respecter cette législation? Ou vont-elles simplement ouvrir des filiales dans les pays complaisants pour y continuer leur développement?
Question 3) Est-ce que certains pays vont restreindre le développement de l’IA à des organisme gouvernementaux (CIA, NSA, …)? Ça fait peur quand on voit qui est en charge du gouvernement américain!!!
Désolé, mais je crois que l’IA est là pour rester.
Un article à propos de cet « incident »:
Un signal d’alarme pour la souveraineté des données
https://www.lapresse.ca/affaires/techno/2026-07-24/incident-chez-openai/un-signal-d-alarme-pour-la-souverainete-des-donnees.php
@Lanaudoise
Merci pour le lien vers l’article !
Il est déjà trop tard, on est cuit !