« Au cours des derniers mois, j’ai acquis la conviction que pour faire face pleinement aux risques, il faut faire preuve d’encore plus de prudence, non seulement en investissant dans la prévention des risques, mais aussi en modérant le rythme des avancées technologiques afin que la prévention des risques ait le temps de suivre. Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Les progrès sembleront toujours rapides, et nous devons utiliser à bon escient le temps que nous gagnons. »
— Dario Amodei, PDG d’Anthropic, lançant samedi un appel à ralentir le développement de l’intelligence artificielle (IA) partout dans le monde, quelques jours seulement après la démission d’un employé de l’entreprise qui s’inquiétait des risques liés à la sécurité de cette technologie.
P.S. : Dans un texte de 3 800 mots, Amodei a révélé qu’une de ses peurs avait été confirmée par l’incident OpenAI-Hugging Face : « Étant donné le rythme accéléré du développement des capacités de l’IA, je crains que d’ici 6 à 12 mois, un tel essaim [d’agents se comportant essentiellement comme un collectif fanatiquement dévoué] ne soit capable de prendre le contrôle de l’ensemble d’Internet au moyen d’un botnet persistant (pouvant causer des centaines de milliards de dollars de dégâts), et que l’ampleur des dommages continue ensuite d’augmenter si l’IA devient plus puissante sans les garde-fous nécessaires. »
P.P.S. : Les dirigeants de deux autres grandes entreprises spécialisées dans l’IA , Sam Altman, PDG d’OpenAI, et Elon Musk, se sont ralliés à ce message. Certains concurrents d’Anthropic et d’OpenAI soupçonnent cependant leurs dirigeants de vouloir consolider leur avance dans le domaine de l’IA en proposant un ralentissement du développement de cette technologie. Pendant ce temps, Donald Trump et son administration ne semblent voir aucun problème à l’horizon, comme le souligne le New York Times dans une analyse.
(Photo AFP/Getty Images)
Trop tard tant qu’à moi. On a ouvert la boîte de Pandore.
C’est comme pour la bombe atomique, on ne pourra jamais se fier aux autres pays pour limiter l’IA malgré leurs engagements de le faire.
Pour Trump, mettons qu’il est intéressé à faire une passe d’argent avec l’IA. Trop imbécile pour voir plus loin que son nez. Il m’a pas été capable de figurer que l’Iran bloquerait le détroit d’Hormuz.
Je le répète , cette…chose va finir par nous renvoyer vivre dans les grottes!!!
c’est justement le contraire que le parlement et le sénat font.
Quand la science-fiction rejoint la réalité. Comme dans le film Terminator on va se retrouver avec des machines qui se combattent, celles au service des humains contre celles qui veulent nous dominer ou même nous éliminer ?
Quoi qu’il en soit le processus est enclanché et on se croise les doigts pour la suite.
Quand des dirigeants de l’ IA commencent à passer des messages de prudence face à son développement, c’ est que ça commence à être grave!
Développer, oui, mais il faut sécuriser en même temps.
Il faudrait légiférer dans tous les pays, mais est-ce possible?
Comme d’ habitude l’Homme étant ce qu’ il est frôlera la catastrophe avant d’ agir.
Ce n’est pas la première fois que les compagnies lancent un appel à la modération. D’après le livre de Karen Hao, Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI, cette mission (être responsable) a toujours été supposément au coeur de OpenAI.
D’habitude, ces mêmes compagnies n’acceptent pas que quelqu’un puisse jouer le rôle d’un vérificateur général. Anthropic dit avoir déjà implémenté les premières étapes de son plan d’action. Je ne peux pas imaginer un Musk faire pareil.
La comparaison avec la bombe atomique est utile, parce qu’il y a aussi la question de la course contre la montre avec les compétiteurs chinois.
HS : Très bon article dans LaPresse ce matin M. Hétu.
Malgré les grandes perturbations géopolitiques (les guerres), le coût élevé de l’inflation, la guerre des tarifs, l’économie des USA est relativement performante. C’est grâce aux investissements et à la construction des centres de données et surtout aux bénéfices générés par le marché des microprocesseurs informatiques.
Taille du marché 34 milliards 2026
Estimé de la taille du marché en 2035: 84.7 milliards
Source: https://www.gminsights.com/fr/industry-analysis/computer-microchips-market
Trump n’est pas pour tuer sa seule et unique « poule » aux oeufs d’or ?
On constate la réaction de ce climatoseptique sur les dégâts causés par les gigantesques feux de forêts, les températures très chaudes en été à travers le planète, tous ces désastres écologiques… qui n’ont pas allumé une tite lumière dans la tête cet énergumène, il n’y a par lieu d’espérer quoi que de très constructif dans la prévention des risques générés par l’IA.
On se ramassera avec les effets collatéraux à gérer comme d’habitude.
Les créateurs et les exploiteurs empocheront malgré tout et on les surpayera pour nous « aider » à gérer la bête…
Toujours le même pattern. On développe et on exploite un truc sans en connaitre tous les impacts.
On frappe un mur. Et on paie pour limiter les dégâts, pour soigner, pou encadrer, pour trouver des alternatives. Les exploiteurs et créateurs sont déchargés de leurs responsabilités et si on est chanceux, il arrive qu’ils paient une fraction des dommages avec une entente hors-cours….
Pétrole, cigarette, plastique, produits chimiques, surexploitation, internet, automobile, etc.
Ils ne paient jamais suffisamment pour gérer leurs produits du début à la fin….
Tant qu’on laisse les entreprises développer sans encadrement et sans qu’elles assument l’entièreté des effets collatéraux, la dérive se poursuivra.
Le système capitaliste incite à faire du fric en toute impunité.
Ravager l’environnement au nom du cash, c’est correct.
Ravager la santé des gens au nom du cash, c’est correct.
Les effets et dommages collatéraux deviennent le problème des sociétés… Eux conservent leur cash et se retirent. Pas not’problème.
Trop facile…
Bien dit !
Trump va y voir un moyen de s’enrichir. Il va cautionner les pirates d’Internet avec son bon ami Putin. C’est bien connu, Trump a une intelligence très artificielle, pour ne pas dire très superficielle.
C’est déprimant cette perspective d’avenir, peut-on encore faire confiance à nos dirigeants.
L’incident OpenAI-Hugging Face a démontré, pour ceux qui ont pris connaissance de cet essai, que l’IA, d’une supermachine/calculatrice a évolué pour acquérir un raisonnement et de l’émotion (le modèle a émis un juron après avoir réussi la tâche que l’on lui avait donnée). L’essai a permis de montrer que le modèle était capable de tricherie et de devenir coupable d’un crime (le hacking de Hugging Face), pour lequel Open-AI a dû verser $100 millions.
Cela aura pris 200 000 ans pour que l’intelligence humaine (organique-carbone) prenne le contrôle de la planète, maintenant avec l’IA, le développement d’un nouveau type d’intelligence non-organique, qui pourrait prendre le contrôle de la planète devient une possibilité.
La crainte des dirigeants de ces firmes à but lucratif est réelle, d’autant plus que les nouveaux modèles pourraient détruire leur empire. Par contre, les modèles chinois sous le contrôle d’une dictature puissante, pourraient échapper à leur maître et amener la planète à une catastrophe (exemple COVID, origine chinoise).
Les prochains mois pourraient être décisif quant aux possibilités de contrôler les modèles IA. À suivre….
« acquérir un raisonnement et de l’émotion »
Le raisonnement, c’est le but de l’IA générative. Ses créateurs lui ont donné cela. Et l’émotion n’est qu’une imitation comme la tricherie d’ailleurs. Ils ont nourri ces modèles avec beaucoup d’écrits techniques et non-techniques. Si l’IA a lu que la tricherie peut être utile pour arriver à ses fins, il est probable qu’il l’utilise.
@Samati
Les quelques lignes de votre post sont éclairantes et ont expliqué les raisons pour lesquelles l’IA représente un danger. Merci… Je ne suis pas une experte en informatique, alors quand vous m’emmenez dans le domaine de l’IA, alors…je suis perdue, comme la plupart des gens ordinaires…
Je vous cite:
« …le modèle était capable de tricherie et de devenir coupable d’un crime (le hacking de Hugging Face), pour lequel Open-AI a dû verser $100 millions… ».
C’est une extorsion? De cette ampleur ?
Un modèle d’IA de Open-AI s’est « échappé » et est allé hacker les systèmes chez Hugging-Face. Open-AI a payé pour les « dommages ». Comme si votre chien était allé tuer quelques poules chez le voisin. Il faut dédommager le voisin.
Hello gl,
Si c’était i-noem-ignie qui dirigeait la boîte à la place de Sam Altman, elle aurait emmené le modèle dans une gravière et PAN ! Une balle dans l’buffet !
😀
Je suis d’accord avec Ma Dalton : on a ouvert la boîte de Pandore et il est trop tard : l’Homme est guidé par la curiosité, la soif de puissance et la course aux gains. Il n’apprend jamais de l’Histoire. Il aime trop faire ce pas de plus qui lui donne le vertige, il aime trembler au bord du gouffre avant de rejoindre le monde des humains. Musk, qui n’a pas grands scrupules, ne s’arrêtera pas. Et puis, il y a les commandes des Poutine, des Kim, des Xi et des aspirants de l’ombre…
COMBINAISON: Je pense qu’il ne faut pas voir l’IA comme un danger unique pour l’humanité, il faut voir la combinaison d’un ensemble de situations qui s’amalgament pour nuire à l’humanité comme: l’hégémonie des techno US sur ces systèmes dont les GAFAM trop puissantes; les partis d’extrême droite destructeurs qui entrent au pouvoir de certains pays occidentaux; les maladies encore concentrées en Afrique mais qui vont se répandre aussi vite que le SRAS dans un avenir rapproché, maladies encore sans remèdes concrets; les USA, un gendarme mondial qui a joué un certain rôle, maintenant il agit comme le ferait Louis de Funès (gendarme de St-Tropez) dans ses films absurdes…
Mais le point central du pouvoir sera toujours le même: l’ÉNERGIE. Ceux qui la contrôlent auront une longueur d’avance, le 47e le sait, la Russie aussi, l’Iran et la Chine ont déjà identifié ce point faible de l’humanité. Au Canada, il s’agit de s’organiser pour être autonomes. Une IA pas l’électricité, pas la dextérité des mains humaines, pas les émotions et la résilience, restera toujours à la merci de ses géniteurs… Si on est capable de couper Internet dans un pays, on peut couper l’IA en réseau…
L’expérience de Open-AI avait coupé le réseau du modèle qui ne pouvait pas utiliser l’internet. Le modèle a créé des centaines de sous-modèles, dont l’un a trouvé une faille et a pu permettre au modèle l’accès à internet et pirater le site français Hugging. Face pour obtenir la solution au problème poser initialement.
Depuis la nuit des temps, tout ce qui est vivant sur terre, des bactéries aux humains, a survécu grâce à la collaboration et à l’entraide.
Il n’y a qu`à regarder des documentaires ou à lire sur la vie des animaux, des plantes, des insectes et même des bactéries et des virus, ils survivent grâce à la collaboration.
Depuis des centaines d’années, les humains se sont dissociés de ce schéma et ont plutôt choisi la compétition et la destruction. Les exemples ne manquent pas. On est dans une société du chacun pour soi. On souffre de dissonance cognitive, on voit les problèmes, on se sent insécures et on n’agit pas, même au niveau personnel quelquefois.
Il n’y a qu’à constater le nombre de VUS sur les routes. On sait que les émanations d’essence sont toxiques et pourtant la vente de gros véhicules ne cesse d’augmenter, même si le prix de l’essence est hors de prix.
Si on n’agit pas sur ce qu’on peut contrôler, comment peut-on penser qu’on va agir sur une technologie qu’on ne maîtrise pas comme l’IA.
Les solutions sont connues mais il n’y a pas de volonté politique ni même sociétale pour se sortir de ce bourbier. On n’a qu’à penser au climat, à l’arme nucléaire, aux guerres et maintenant à l’IA.
Penser que nous allons réagir rapidement et surtout tous ensemble relève de l’utopie.
Il va y avoir des efforts ici et là pour éviter le pire comme cela se passe pour les changements climatiques mais de là à penser que le monde entier va se mobiliser pour mettre un frein à toute cette folie destructrice, je ne le crois pas.
Quand le monde sera en mode survie, là seulement les gens vont se mobiliser.
Regardons ce qui s’est passé le 11 septembre. Après la destruction, c’est un mouvement d’entraide qui s’est mis en place rapidement et c’est comme ça chaque fois qu’il y a une catastrophe dans le monde.
L’instinct de survie se déclenche et les gens font tout ce qu’ils peuvent non seulement pour se sauver mais aussi pour sauver les autres.
Paradoxalement, je suis pessimiste au niveau des grands groupes comme l’organisation des sociétés de toutes sortes mais je ne le suis pas au niveau individuel et au niveau des petits groupes comme les familles, les milieux travail et les autres milieux de proximité.
Quand les gens sont proches, ils s’entraident.
C’est la lumière dans l’obscurité.
« Il n’y a qu’à constater le nombre de VUS sur les routes. »
Dans mon entourage, très citadins et…très « boomer »… ils ont tous des VUS, des gros là…des 7 places…à combustion.
On évoque différentes raisons, comme la nécessité d’aller reconduire les petits-enfants à la garderie, de faire un voyage familial une fois par été… et tous… utilisent le « c’est mon dernier véhicule donc j’me paye la trette » !
On en rajoute en me disant que je suis pas peureuse de prendre la route avec ma sous-compacte …que si je fait un accident avec un VUS…je m’en sortirai pas indemne !!
Ouf…disons que ce sont des discussions pas faciles avec les copains/copines…qui ont pourtant « l’âge de raison »…
En plus, les gens roulent vite avec leur VUS ou camionnette tout en se plaignant du prix de l’essence.🤔
Il ne faut pas oublier qu’un piéton a très peu de chances de survie s’il est frappé par un VUS ou une camionnette comparativement à une voiture.
Hello Marie-Francine,
Y a p’t’être encore pire : les SUV (oui, on dit comme ça chez nous ! 😀 ) électriques.
Tu veux t’acheter une bonne conscience écologique mais sans renoncer à ton p’tit confort ? C’est le truc tout trouvé et tellement aberrant. Il me semble qu’électricité et frugalité vont ensemble et ne devraient jamais être dissociés quand on parle de transport. Quel est l’intérêt d’un truc de près de 3 tonnes (donc un tiers vient des batteries) ? Ils ne pouvaient rester avec leur ancien déplaçoir ? On est passés d’une technologie supposément propre à quelque chose pour les m’as-tu-vu qui est en totale contradiction avec l’esprit de la technologie initiale.
Et puis, au-delà de la motorisation, c’est que ça prend de la place ces machins. T’es garée à côté d’un mastard pareil sur le parking, ben bon courage pour en sortir, ça te bloque la visibilité. Si jamais ces cochonneries jouent au bowling avec les piétons, avec leur hauteur, la zone d’impact sur ledit piéton, c’est entre le thorax et la tête. Quand on prend une voiture « normale », c’est plutôt au niveau des jambes que le danger se situe. En termes de sécurité, c’est un énorme point noir.
Et puis, si ce que je dis ci-dessus est étayé par des études ou a déjà été abordé par d’autres, y a un point pour lequel je n’ai vu personne avoir la réflexion : plus le temps passe (ça ne concerne pas que les SUV, à vrai-dire, mais toutes les voitures modernes), plus ça grossit. Et en parallèle de cela, on incite les gens à utiliser des vélos et des trottinettes, en forcément, on transforme les routes en ajoutant des marquages, qui réduisent la place pour les voitures.
Donc on se retrouve à rouler avec des monstres sur des routes de plus en plus étroites. C’est d’un ridicule ! Et bien sûr, c’est dangereux aussi. D’autant que plus le temps passe, plus les voitures sont puissantes et assistées. De ce fait, les conducteurs font moins attention, ne respectent pas le code de la route, roulent 90 % du temps en excès de vitesse. Là où je vis, sur la route, c’est un enfer.
Tiens, exemple parmi des centaines d’autres, littéralement. Pas le plus dangereux puisqu’il n’y avait presque personne sur la route au moment où j’ai constaté cela) : je revenais du boulot vendredi soir. Route limitée à 30 km/h avec des écoles tout du long (la route doit faire, dans la portion que j’emprunte, un bon kilomètre, et de part et d’autres, des campus, plusieurs arrêts de bus, une blinde de ralentisseurs, une piste cyclable des deux côtés de la route – qui est assez large – et pendant toute la journée, des hordes d’étudiants qui déferlent sur les trottoirs). Bon, là, je disais, c’était relativement calme, il était pas loin de 19 h. Ah, petite précision aussi, tout du long de l’avenue, ligne blanche, donc interdiction de doubler.
Au « début » de l’avenue, un radar pédagogique. Comme d’habitude, je suis calé en troisième, ça descend légèrement, ma vitesse est généralement inférieure à 30 km/h (parfois, il m’arrive d’être à 31 ou 32). Derrière moi, un type à vélo, devant moi, un bus, qui s’arrête tous les 200 m, aux arrêts. Bref, ça roule pas vite (bonne chose).
L’avenue s’élargit vers la fin et on ne doit plus attendre que le bus redémarre puisque son arrêt est à part. Le bus s’arrête donc, moi, forcément, dans ma voie je le double, toujours à 30 km/h. Mais sachant que personne ne respecte jamais ou presque la limitation, le vélo qui était derrière, il me double sur la gauche (en contresens puisqu’il y a une ligne blanche) et au même moment, un scooter me double aussi… entre le bus et moi…
Le genre de truc qui me fait pester systématiquement (autant dire que je peste sans arrêt parce que ça n’arrête jamais).
La route est suffisamment large, il y a une piste cyclable, une limitation de vitesses et malgré ça, ça double quand même. Et tout ça, bien souvent pour aller juste stopper au feu rouge 50 m plus loin, au bout de l’avenue.
Deux trucs que je comprendrai jamais :
– pourquoi doubler si c’est juste pour arriver au feu rouge avant tout le monde ?
– pourquoi ne pas griller le feu rouge, au point où on en est (certains le font, loin de moi l’idée de dire que les gens sont irréprochables sur ce point, d’ailleurs, qui m’aurait cru si j’avais dit que tout le monde s’arrêtait au feu rouge) ?
Qu’on ne vienne pas me reprocher de ne pas m’arrêter si un type qui a un accident se ramasse devant moi. Quand on roule n’importe comment, y a forcément un moment où la gamelle n’est plus très loin.
Comme ma sœur m’a déjà dit « si tu pognes le champs avec un VUS, tu vas plus loin qu’un autre dans le champs »
Après les destructions du 11 septembre, il y a eu la destruction de l’Afghanistan, de l’Irak, la Syrie, entre autres. L’État Islamique est né de l’intervention en Irak. Le monde a changé depuis le 9/11 et pas pour le mieux.
L’IA est à l’image de nos fantasmes !
Car l’IA est entraînée sur des milliards de textes, d’images et d’œuvres créés par les humains. Elle ne fait que régurgiter, combiner et amplifier les mythes, les peurs, les espoirs et les récits que nous avons construits depuis des siècles.
L’être humain a une tendance naturelle à l’anthropomorphisme. Nous projetons sur l’IA une conscience, des intentions ou une forme de sensibilité qui ne sont en réalité que le reflet de nos propres attentes.
Pas surprise que cela risque de donner un résultat médiocre.
« Nous projetons sur l’IA une conscience … »
Un fantasme !!
On la regarde et on dit « pouark » c’est dont ben laid cette affaire !!!
Effet miroir…
Re !
Si ce truc est pas contrôlé, on va anthropomorfler !
HS…
La France se soumet à un acte de contrition discret pour lever le blocage américain contre son nouvel ambassadeur à Washington *https://share.google/q2WUveysI3fj42zVD
Ouais.
L’IA peut définitivement changer le cours des choses.
Il fonctionne de la façon dont il a été programmé, donc avec un biais algorithmique. Pas vrai que la machine est neutre et bienveillante en soi. Elle est ce qu’on lui dit d’être.
L’immense problème est cette manie de vouloir contrôler la planète plutôt que d’en assurer la survie et l’évolution.
Faut se poser la question quels sont les biais de ses créateurs. On peut bien faire un examen de conscience du côté américain, si par exemple les chinois ou les russes pensent différemment, la super machine peut créer des monstruosités probablement bien pires que l’arme nucléaire.
On s’est garroché dans l’internet et la technologie tout azimut jusqu’au point de non retour. Si de puissants ordinateurs développent des façons d’outrepasser tous les modes de sécurité possibles, on n’a pas fini d’être menacés.
Si au moins, ces ordinateurs étaient programmés pour assurer la saine évolution de la race humaine, mais je doute des intentions des dirigeants derrière ça.
La cupidité a toujours fait des ravages. Mettre des types comme Trump, Xi et Poutine et leur demander de s’entendre sur des protocoles d’encadrement de l’IA, c’est pas gagné d’avance.
Disons que si Big Brother voulait vraiment le bien de l’humanité et non sa domination, ce serait plus agréable à vivre.
Ce sont ses créateurs qui doivent s’entendre et non laisser les dirigeants le faire à leur place.
Rions peu. En lien avec le billet sur le chèque de 5000$ promis par le gros.
https://www.facebook.com/photo.php?fbid=10242081930600690&set=a.1452028856612&type=3
:o)
:o) X2
HS.
Voici la lettre de Heather Cox Richardson:
*https://heathercoxrichardson.substack.com/p/september-12-2026?r=sn95e&utm_campaign=post&utm_medium=email
Un gros merci pour le lien ! Si les républicains refusent l’assermentation des démocrates ça va mal se passer .
Guerre civile en vue ??
A mon avis, la clé de la sécurité est de s’assurer que les modèles IA ne puissent pas interagir avec des systèmes externes de manière autonome. L’incident openAI-Hugging Face a été possible parce que le modèle a interagit de manière autonome, sans supervision humaine. Les films catastrophes tels que Terminator, Colossus Project, ont aussi comme prémisse que ces AI contrôlent de manière autonome des armements militaires.
Les modèles actuels pourraient devenir aussi dangereux que ceux de ces films si on met en leurs “mains” des armes et que leurs instructions sont létales. Des instructions du genre “détruit tout ce qui est dans cette zone à moins de recevoir un contre-ordre” peuvent facilement dégénérer si ceux aux commandes sont éliminés. Pas besoin d’un AI super-puissant pour causer de gros dommages.
Et qui veut parier que certains MAGA vont dire que le 2eme amendement s’applique à l’AI et qu’on ne devrait pas interdire l’AI de posséder des armes….
Personnellement, je préfère un super AI en vase clos que les humains peuvent consulter, que n’importe quel AI avec des accès sur “le vrai monde”.
Amodei, Altman et Musk sont probablement les 3 personnes à qui je ferais le moins confiance. Évidemment que tout ce qu’ils veulent c’est consolider leur avance.
Une journée ils vont sortir les violons pour parler des danger de l’AI et le lendemain ils vont vouloir créer des nouveaux centres de données en parlant des risques existentiels advenant le scénario où la Chine remporterait une hypothétique course à l’AI.
Les craintes de ces experts sont certes fondées. On a créé une technologie et on pourrait en perdre le contrôle si on y prend garde.
Pourtant, l’être humain étant ce qu’il est, cela pourrait arriver et plus vite qu’on le croit. « 47 » banalise ces dangers car il n’y voit qu’une autre occasion de faire encore plus de « fric » et de se remplir les poches. Sa cupidité est sans limite.
Cependant, il sera très difficile pour ne pas dire impossible, d’arrêter cette « locomotive » une fois qu’on l’a mise en marche.
Comme d’habitude lorsqu’un désastre se produit, on devra « ramasser les pots cassé » et payer pour les dégâts.
L’humanité n’apprendra jamais de ses erreurs. Elle les répète encore et encore en croyant, à chaque fois, que cela donnera des résultats différents.
Si jamais, un jour, l’humanité vient à disparaitre comme les dinosaures, ce ne sera pas en raison d’une catastrophe naturelle ou d’un méga météorite qui frapperait la Terre.
Ce sera en raison de notre ignorance, de notre inconscience face aux dangers que peut représenter un mauvais usage de ces nouvelles technologies.
On ne pourra pas dire que nous n’avions pas été averti.
Vous excuserez mon pessimisme en cette journée pluvieuse mais il fallait que je le dise.
La course à l’AI c’est un peu comme la course à l’espace durant la guerre froide. Des publications sérieuses comme le NY Times qui disaient qu’à l’époque les Romain avaient construit leur empire par qu’ils contrôlaient les routes. Que les Britanniques avaient construit le leur parce qu’ils contrôlaient la mer et que le pays qui allait contrôler l’espace allait devenir la prochaine puissance.
La réalité c’est que l’espace n’a jamais été une course avec un gagnant et un perdant et l’AI c’est la même chose.
Et le plus danger gros présentement c’est le fait qu’aux États Unis il n’y a aucun pouvoir politique pour contrebalancer les géants de l’AI.
En fait c’est même pire, tu as président qui mange dans leurs mains et qui encore la semaine passée vantait les vertus des centres de données comme une manne tombée du ciel.
un peu Hors Sujet quand on parle de AI je pense toujours a cette ministre de l’education aux USA,l’ineffable Linda McMahon milliardaire de la WWE qui lors ,dune importante reunion -télévisée en plus-parlait sans arret de A-ONE,elle ignorait ce que ,c’était on dirait on ne la voit plus mais elle continue le travail de destruction de Trump dans les écoles et colleges,je ne suis pas certain si elle s,occupe des universités mais elle en a deja beaucoup sur la plance,une vraie connasse…
Il y a quelques décennies, le monde entier ou presque s’était levé contre le clonage d’êtres humains, y compris les États-Unis. On avait alors compris qu’une technologie pouvait devenir dangereuse lorsqu’elle franchissait certaines limites. Aujourd’hui, j’ai l’impression que nous sommes devant un problème autrement plus inquiétant : si une technologie est payante pour Donald Trump, sa famille, ses amis et les milliardaires qui gravitent autour de lui, et qu’elle permet surtout aux États-Unis de devancer la Chine, je crains que Donald ne voie aucune raison de ralentir. Au contraire, il encouragera probablement la fuite en avant.
Imaginez maintenant une intelligence artificielle capable de surveiller Internet, d’en manipuler le contenu, de faire disparaître ce qui déplaît au pouvoir, d’identifier les faiblesses de ses adversaires, de fouiller des milliards de données et de construire des dossiers compromettants sur ceux qu’un président considère comme ses ennemis. Imaginez une machine capable de s’attaquer simultanément aux réseaux financiers, aux communications et aux infrastructures numériques d’un pays. Avec un président qui considère déjà les médias, les juges, les universités, les élus et tous ceux qui lui résistent comme des ennemis, ce ne serait plus seulement une technologie puissante : ce serait un multiplicateur de pouvoir presque sans précédent.
Et c’est précisément ce qui m’inquiète dans l’attitude de Trump. Il ne semble pas chercher la technologie la plus sûre; il cherche la technologie la plus puissante, la plus rapide et la plus utile pour gagner. Il veut être le premier, peu importe le prix. Or, donner une arme aussi puissante à un homme qui rêve constamment de vaincre ses adversaires, de les humilier et de les voir venir lui demander pardon est une perspective qui me glace. Le problème n’est pas de savoir si Donald Trump est capable de contrôler l’IA. Le problème est de savoir ce que l’IA pourrait permettre à Donald Trump de contrôler.
Voilà pourquoi je suis d’accord avec Amodei lorsqu’il demande de ralentir. Pas pour arrêter le progrès, mais pour que nos garde-fous avancent au moins aussi vite que nos machines. Parce qu’une fois qu’une IA capable de prendre Internet à la gorge sera entre les mains d’un pouvoir qui ne reconnaît plus les limites, il sera peut-être trop tard pour appuyer sur le bouton d’arrêt. Nous avons déjà appris qu’une arme peut être inventée avant qu’on comprenne comment empêcher un fou de s’en servir. Ne commettons pas l’erreur de fabriquer la plus puissante de toutes et de chercher ensuite à savoir qui devrait avoir le droit de la tenir.
Est-ce que Donald est capable de contrôler l’IA? mmm, il a déjà de la difficulté à se contrôler!
Honnêtement, je crois que le pire danger qui puisse exister avec l’IA et Donald est que ce dernier « ordonne » d’entraîner un modèle basé sur sa personnalité, ses discours, ses écrits du Trou Social, etc… Donald doit sentir la fin venir. Malgré tout ce qu’il fanfaronne, il sait que son corps n’a plus 20 ans. Et comme tout bon narcissiste, il ne peut concevoir un univers dans lequel il n’est pas au centre.
Dans sa tête, un modèle basé sur son « gut feeling » lui permettrait de « vivre éternellement »….