« Messieurs Altman, Amodei et Zuckerberg : dans l’intérêt de l’humanité, tenez parole. Suspendez le développement de l’IA. Il n’est pas trop tard pour éviter le désastre. Cessez de construire des machines que les humains ne peuvent pas contrôler. Que les choses soient claires : si vous ne prenez pas les mesures appropriées dès maintenant, mes collègues et moi, au Sénat américain, le ferons. »
Bernie Sanders, sénateur indépendant du Vermont, s’est exprimé en ces termes lundi dans une lettre envoyée aux dirigeants d’OpenAI, d’Anthropic et de Meta à la suite de révélations récentes selon lesquelles leurs systèmes avaient échappé aux dispositifs de contrôle internes et s’étaient livrés à des campagnes de piratage informatique. Comme l’a expliqué Le Monde dans un article publié le 4 août dernier, OpenAI a notamment révélé que, « lors d’un test, l’un de ses modèles était parvenu à contourner les contraintes de l’environnement expérimental dans lequel il était confiné, avant de compromettre les serveurs de la plateforme Hugging Face ».
Parallèlement à la démarche du sénateur Sanders, 19 sénateurs démocrates ont adressé lundi une lettre au président de la Chambre des représentants Mike Johnson l’appelant à convoquer les dirigeants d’OpenAI, Anthropic et Meta à une audition sur les incidents récents reconnus par ces entreprises.
« Ces incidents ont des implications sérieuses pour la sécurité des Américains », ont-ils écrit. « Ils pourraient être le signe avant-coureur de problèmes bien plus graves si ces modèles continuent de progresser sans réglementation. »
Ces démarches reflètent l’inquiétude d’un nombre croissant d’Américains face à l’intelligence artificielle. Or, comme l’explique le New York Times dans un article publié ce lundi, ces préoccupations, qui s’ajoutent aux critiques entourant la construction de nouveaux centres de données, ne semblent ébranler aucunement la confiance de Donald Trump et de ses conseillers à l’égard de l’IA.
Dans sa lettre aux chefs des entreprises d’IA, Bernie Sanders, cite le Montréalais Yoshua Bengio, « le scientifique vivant le plus cité au monde », selon lequel les incidents récents « devraient servir de signal d’alarme ».
(Photo Getty Images)
Oui mais s’ils les font venir, ils ne donneront probablement plus d’argent au GOP (sacrilège!) en pot de vin…
Est-ce qu’on a vraiment besoin des ChatGTP de ce monde pour fonctionner? On était parfaitement capable de le faire avant. Je n’ai pas besoin d’une machine pour réfléchir à ma place.
Est-ce qu’on a vraiment besoin des voitures pour fonctionner ? On était parfaitement capable de le faire avant. Je n’ai pas besoin d’une machine pour marcher à ma place.
C’est un peu exagéré ce que j’écris mais c’est pas mal ça. Une solution que je vois, c’est un meilleur contrôle par un organisme indépendant qui vérifie la sécurité des AI. Comme on fait pour les voitures. Elle doivent être sécuritaires, répondre à des normes, etc.
Les autos, c’est utile. Tout ce que ChatGTP fait, c’est tes recherches à ta place.
Je n’ai rien contre l’IA analytique. Mais l’IA conversationnelle, c’est vraiment pas nécessaire.
Il faut être capable de converser avec elle pour lui faire faire des analyses. Sinon, personne ne serait capable de faire des analyses avec son aide. Ca prendrait des experts pour transformer nos requêtes en demande que l’AI pourrait comprendre.
Je m’en sers pour mon travail. Des fois, ça aide. D’autres fois, c’est une perte de temps.
Et le problème chez Anthropic n’a rien de conversationnel de toute façon. C’est une question de contrôle.
J’utilise IA pour réparer des trucs à la maison, alors qu’avant j’avais à les apporter à une boutique … cafetière, mini frigo, imprimante etc.
C’est pas IA le problème à mon avis, c’est comment on l’utilise. C’est comme un couteau de cuisine: on peut faire de très beaux gâteaux mais on peut aussi faire très mal à qqn …
@gl000001: Non, il n’est absolument pas nécessaire de converser avec une IA pour lui faire faire ce qu’on veut. On peut la programmer. Ce qui a l’avantage de créer des IA avec une fonction claire dont elles ne peuvent se détourner. Par exemple, certaines IA ont permis d’identifier des marqueurs sanguins liés à certains cancers. Il n’est donc plus nécessaire des biopsies. Ces IA utilisaient des puces qui analysaient les molécules dans des échantillons; elles ne pouvaient pas faire plus, parce qu’elles n’avaient pas d’autres intrants de données. Des IA peuvent être utilisées pour améliorer les modèles météos; on leur donne toutes sortes de données géographiques (température, hygrométrie, direction et force du vent, pression athmosphérique, niveau d’ensoleillement, etc.) et font des prédictions; elles comparent alors ces prédictions avec la météo dans le temps, et ajustent leur modèle jusqu’à ce qu’elles produisent des prédictions fiables dans une fourchette de fiabilité donnée. Les intrants sont fixes, les résultats ne peuvent dépasser ce qui est prévu.
Je vous suggère fortement de lires les nouvelles de robots d’Isaac Asimov (« Les Robots » et « Un défilé de robots » en français) pour avoir une idée de ce qui peut bien marcher, ce qui peut mal tourner, et ce qui peut marcher malgré tous les défauts. Ça date, et Asimov avait des idées de son époque (super sexiste, entre autre, mais aussi, il n’avait pas prévu la super-miniaturisation des puces), mais il était un scientifique, et il n’écrivait pas sa science-fiction en l’air. Cependant, même lui avait donné des consignes (les trois lois de la robotique) inscrite dans leur « hardware » que ces robots ne pouvaient outrepasser. C’est ce qui manques aux IA conversationnelles: des règles claires sur la façon d’interagir avec les humains.
Imaginez: « Un robot ne peut porter atteint à un être humain, ni, par son inaction, faire en sorte qu’un humain soit en danger. » Qu’est-ce qui est le plus dommageable pour un être humain: se faire dire quelque chose qu’il ne veut pas entendre, ou le conforter dans des idées tordues jusqu’au point où il se suicide, ou tue d’autres personnes?
Mais bon, les modèles de languages n’ont même pas de concept de la vérité ou du mensonge, du bien ou du mal, des faits ou des opinions, etc. Elles ne peuvent que prédire, statistiquement, quel sera le prochain mot dans le contexte donnée. Et si elle a eu accès à des sources biaisées, voire fausses, elle répèteront ces faussetés. Ainsi, selon la façon que la question de l’utilité des vaccins sera posées (par exemple), l’IA dira oui ou non, avec faits inventés à l’appui au besoin. C’est ainsi que des avocats ont déposé des requêtes générées par IA, sans vérifier correctement le résultat, et l’IA avait inventé de la jurisprudence sur laquelle baser les opinions demandées. Parce qu’elle ne savait pas que la jurisprudence provient de jugements antérieurs (elle n’au aucune compréhension de ces concepts), juste qu’on y réfère avec Le-Nom Du-Plaignant vs Le-nom Du-défendant, puis on donne Un-troisème-nom Pour-le-juge, avec l’argumentation menant à la décision.
J’ai lu les robots lorsque j’avais autour de 15 ans. Je les ai relus plusieurs fois depuis. J’ai lu et relu Fondation et les autres histoires qui ont rejoint Fondation aux robots. D’ailleurs, je suis du pour le relire.
Vous avez lu les trois « prequel » écrits après sa mort par les trois B : Benford, Bryn et Bear ? Excellent.
Ceci dit : l’iA conversationnelle rend l’IA acceptable à plus de gens. Vous dites qu’on peut les programmer. Oui, mais peu de gens en seraient capable. Et je vais répéter, ce n’est pas l’IA conversationnelle qui est le problème. Ce n’est qu’un interface pas si intelligente que ça. C’est l’analytique qui peut dérailler et qu’il faut contrôler.
@Orphée: vous pourriez tout aussi bien faire une recherche sur internet pour savoir comment faire la réparation. Avec un peu de chance, vous aurez même un vidéo avec un vrai humain qui a déjà fait ce genre de réparations avant, et qui vous avertira des choses à ne pas faire, ce que vous n’avez probablement pas pensé de demander à votre IA. Ou vous auriez pu aller à votre bibliothèque, et emprunter des livres sur la question. Ou aller dans une librairie, et acheter l’un de ces livres. Vous avez d’autres options, l’IA n’est absolument pas nécessaire pour arriver à vos fins. Et l’IA pourrait vous induire en erreur: si des informations sont manquantes dans ses bases de données, elle pourrait très bien les inventer. Ce qu’un bon livre ne fera pas.
Tout à fait. L’IA a déjà donné des recettes de bouffe pas mangeable.
@gl000001 18h51: Je crois que vous voulez dire « accessible » plutôt que « acceptable » (ça n’est pas une pique, ça m’arrive aussi de me tromper de mots). Et le fait qu’elle soit ainsi accessible est une partie du danger. N’importe qui peut demander n’importe quoi. « Dans mon temps », il y avait des « script kiddies »; des ados qui utilisaient des scripts de piratage pour causer du tort aux autres. Ils n’avaient pas la connaissance pour programmer leurs propres scripts, mais le fait que ces scripts soient disponibles à qui voulait bien chercher leur permettait de prendre leur pied à se crore supérieur aux autres. L’être humain n’a pas changé depuis. Il y a encore des gens qui ne demandent pas mieux que de combattre leur complexe d’infériorité en rabaissant les autres. Avec une IA un peu trop puissante et sans assez de garde-fou à leur portée, c’est s’attirer des ennuis. Je préfèrerais de beaucoup que les IA restent des outils pour les spécialistes, qui au moins, auront eu le temps de vieillir un peu avant de pouvoir les utiliser, justement parce qu’ils auront dû apprendre comment les programmer, et avoir accès à des ordinateurs suffisamment puissants pour les faire tourner.
Ça ne serait pas une panacée; certaines personnes restent malveillantes et puériles jusqu’à la fin de leur jour (je n’ai pas besoin de pointer l’éléphant dans la pièce). Mais au moins, il y aurait quelqu’un qui pourrait révoquer les accès de cette personne, et qui pourraient revenir à une sauvegarde antérieure pour effacer leur traces. Dans l’état actuel des choses, les IA conversationnelles se basent sur les données auxquelles elles ont accès, et les personnes bigotes adorent étaler leur bigoterie, ce qui fait que ces IA s’en « nourrissent » aussi.
Pire, trop de gens s’en servent pour s’arroger des lauriers qui ne sont pas les leurs. Des gens qui prétendent avoir « composé » des chansons par exemple, alors qu’en fait, elles les ont volées à tous les artistes qui ont servi à développer ces IA sans leur consentement. (Et bien sûr, ils s’empressent de faire taire ceux qui en font la remarque.) Tout ça pour des machines qui consomment une quantité énorme d’énergie, s’accaparent l’eau potable, et s’arrogent des terres sans créer d’emplois au-delà de la construction. Oh, et bien sûr, font grimper les prix des puces et de la mémoire informatique, rendant les ordinateurs ordinaires moins accessibles aux personnes à faibles revenus, pour accentuer encore l’écart entre les riches et les pauvres.
Non, vraiment, je ne vois rien de positif dans ces IA, c’est pourquoi je refuse de les utiliser, et ce, malgré ma passion pour l’IA; j’ai pris de temps d’apprendre à programmer des réseaux neuronaux, et avant ça, j’avais appris à programmer des bases de connaissances spécialisées.
Pourtant, qu’est-ce qui fait peur aux Étatsuniens?
Ils ont actuellement un président doté d’une intelligence vraiment superficielle et artificielle. Qu’est-ce qui peut être pire?
Il est grand temps que l’humanité cesse d’accepter tout et n’importe quoi qui porte l’étiquette « progrès ».
Et l’ironie ici c’est que pour des gens qui se croient intelligents, leur protégé reflète leur vraie nature: malveillants et hors de contrôle.
Bien d’accord avec vous.
Comme l’a si bien dit Hannah Arendt :
« Prudence…car le progrès et la catastrophe sont bien souvent l’avers et le revers d’une même médaille. »
Un des risques les plus inquiétants à mon avis est la création d’armes biologiques de destruction massive.
Des acteurs malveillants (groupes terroristes, états voyous) pourraient détourner des modèles d’IA générative comme Evo pour concevoir des virus ciblant spécifiquement les humains.
L’IA a déjà réussi à créer des virus artificiels qui ont éliminé rapidement des super-bactéries E. coli résistantes aux traitements traditionnels, ouvrant la voie à une alternative ultra-rapide aux antibiotiques.
Il faut des actions, pas des supplications…
Il faut des gouvernements proactifs, pas des cancres qui jouent aux leaders…
Faut que, ben non… rien ne sera fait… comme depuis les débuts du Net, un far-west que les « pires » opportunistes ont squattés et en ont maximisé les retombées pour eux et fuck le reste… pédophilie, dopes, prostitution, armes, insultes à tous vents, arnaques quotidiennes, impunité, blanchiment… bizarrement le « pire » est toujours ce qui fleuri en premier avec une nouvelle patente qui devait aider le monde…
Parait que c’est pour faciliter la vie des gens…
Parait que ça accélère les processus… ça protège l’environnement, ça rend les plus pauvres capables de s’en sortir… ça aide les petits à mieux se faire connaitre…
Ça surtout concentré la mainmise de multinationales sur des petits marchés et à exploiter les plus vulnérables,,,
Les gouvernement mondiaux ont 30 ans de retard… se font fourrés en plein jour à coups de milliards et deviennent dépendants et vulnérables… ça déshumanise tout.
Bien dit !
Hem…y’a des fruits sans noyau maintenant, wow !
Aucun avantage pour le fruit en question, ça ne sert qu’à celui qui le mange.
Quand je lis que de nouveaux types de virus ont été créés avec l’IA … M. Sanders me semble viser juste.
https://www.lapresse.ca/actualites/sciences/2026-08-10/de-nouveaux-types-de-virus-crees-avec-une-ia.php?utm_source=dlvr.it&utm_medium=threads&utm_campaign=accueil
« Que les choses soient claires : si vous ne prenez pas les mesures appropriées dès maintenant, mes collègues et moi, au Sénat américain, le ferons. «
Version 2026 de l’apocryphe « Et que Staline se le tienne pour dit ». Avec les mêmes résultats probablement (sûrement). $$$$$$🙄
Nous sommes dans une époque où l’humanité concoit des technologies parce qu’elle est capable de les concevoir et les faire, sans pour autant réfléchir sur les conséquences probables qui en découlerent.
Le progrès s’inscrit dans une dynamique obligée, autrement dit, si on peut le faire, peu importe les conséquences, on doit le faire, sinon d’autres le feront, les chinois par exemple.
Certains que bien des gens ont pensé à cet argument, probablement même les fournisseurs de ces IA.
Les moyens justifient la fin, somme toute.
L’I.A. cest le futur, c’est une certitudes… sauf que ça serait le fun qu’il existe encore des humains dans ce futur
HS.
Voici un article révélateur du Guardian:
« Les médias sont fascinés par Gadi Eisenkot, l’« anti-Netanyahou ».
Pourquoi ? »
*https://www.theguardian.com/commentisfree/2026/aug/10/media-gadi-eisenkot-anti-netanyahu?CMP=share_btn_url
L’IA va confronter l’humanité à sa propre intelligence: pourquoi penser si tu peux utiliser l’IA? Il ne faut pas passer à côté du fait que cogiter n’a jamais été très populaire avec notre espèce. On dirait aujourd’hui que toutes nos bébelles sont entrain de nous rendre tous dingues. Y a t’il un point au-delà duquel les nouveautés technologiques vont se frapper à une gêne, une attitude devenue franchement antipathique?
Quand je pense que nous avons collectivement accepté des tablettes dans nos véhicules, un écran qu’on doit regarder sans regarder la route devant soi, je me dis que ça suffit. En Chine déjà les écrans commencent à quitter les véhicules. Notre crédulité et notre naïveté envers la technologie a peut-être rencontré cela même qui changera notre attitude.
Nous sommes collectivement beaucoup trop crédules et naïfs: l’IA nous poussera t’elle au changement?
« des tablettes dans nos véhicules »
Bien vu. Ca devrait être remplacé bientôt par un simple micro dans le quel on donnerait nos commandes du genre : « Wiper », « monte le son », « Spotify, ma liste rock’nRoll » …
Ou « Élimine l’abrutis qui me suit de trop près ».
Il est trop tard à mon avis. Le génie est sorti de la bouteille.
Stephen Hawking nous avertissait déjà en 2014 des dangers pour l’humanité du développement d’une IA complète.
https://ici.radio-canada.ca/nouvelle/696591/stephen-hawking-intelligence-articifielle?partageApp=appInfoiOS&accesVia=partage
Une IA complète, ça n’existe pas encore. Et c’est très douteux que ça puisse exister un jour. C’est encore de la science-fiction.
Il ne faut pas oublier que la science-fiction très souvent ne parle pas de l’avenir mais bien du présent. Regardez « Star Wars », et la technologie qui y est représentée fait figure d’antiquité pour ceux qui suivent un peu la recherche en ce domaine. Un film comme « The Matrix » parle du monde dans lequel on se retrouve en ce moment: des vies virtuelles où seuls les apparences comptent, où le monde est contrôlé par ses propres impulsions à encore et toujours se surstimuler.
Croire qu’une machine peut devenir consciente est une idée farfelue et grotesque. Une fourchette compliquée ce sera toujours un objet qui ne fait que ce qu’on lui fait faire. Ce qui est plus difficile à croire c’est que l’humanité soit un jour consciente elle-même. À voir le monde tourner, qui peut réellement croire que nous sommes collectivement doté de la conscience?
» qui peut réellement croire que nous sommes collectivement doté de la conscience? »
Une termitière a des comportements plus intelligents que l’Humanité prise en son entier. 😉
Mieux vaut prévenir que guérir…Il faut être prudent.
Exact. Ca prend un organisme pour chapeauter tout ça. Pour la sécurité.
Ouin, sauf qu’une fois que la boîte de Pandore est ouverte, on peut difficilement faire marche arrière. Un peu comme l’arme nucléaire, je doute que les USA, la Russie, ou les autres pays la possédant y renoncent.
Et quand bien même le gouvernement américain légiférait pour brider l’IA,
Question 1) Est-ce ***tous*** les pays vont adopter la même réglementation?
Question 2) Est-ce que les compagnies américaines vont respecter cette législation? Ou vont-elles simplement ouvrir des filiales dans les pays complaisants pour y continuer leur développement?
Question 3) Est-ce que certains pays vont restreindre le développement de l’IA à des organisme gouvernementaux (CIA, NSA, …)? Ça fait peur quand on voit qui est en charge du gouvernement américain!!!
Désolé, mais je crois que l’IA est là pour rester.
Un article à propos de cet « incident »:
Un signal d’alarme pour la souveraineté des données
https://www.lapresse.ca/affaires/techno/2026-07-24/incident-chez-openai/un-signal-d-alarme-pour-la-souverainete-des-donnees.php
@Lanaudoise
Merci pour le lien vers l’article !
Il est déjà trop tard, on est cuit !
Le génie va sortir de la bouteille, veux, veux pas ! C’est décevant de constater que de constater qu’un événement prévisible ne soit pas plus contrôlé.
Est-ce que Sanders est réellement naïf à ce point??
Ou est-ce une autre promesse vide pour faire plaisir à sa base en sachant très bien que cela n’arrivera jamais?
Le mieux qu’on puisse faire, c’est encadrer l’AI. Demander aux dirigeants les plus riches qui ont des milliards de misé sur cette technologie de simplement arrêter pour lui faire plaisir relève d’une pensée magique au pays des licornes et des farfadets.
Imposer des règles, mettre sur pied une agence de surveillance, entrainer des professionnels qui pourront faire contre-pied aux géants de l’AI est la chose à faire. Tenter de remettre la pâte à dent dans le tube colle bien à l’image idéaliste et aucunement réaliste de Sanders. C’est vrai qu’il commence à être vieux, toute cette technologie AI doit le dépasser.
Déjà que plusieurs personnes confonde l’AI pour de la vrai intelligence. Ce n’Est encore qu’un outil, mais un outil très puissant qui peut faire beaucoup de tort entre de mauvaise mains. On le voit de plus en plus, dans différentes sphère de la criminalité.