Jacob Coxon est un chercheur spécialisé dans l’entraînement de nouveaux modèles d’intelligence artificielle au moyen de l’ingestion de vastes volumes de données. Jusqu’à mardi, il travaillait pour Anthropic, entreprise américaine connue principalement pour avoir créé la famille de modèles d’IA Claude. En annonçant sa démission d’Anthropic, il a publié sur X une enfilade glaçante où il exprime sa peur de voir son ancien employeur et ses concurrents foncer tête baissée pour créer des systèmes qu’ils ne pourront plus contrôler.
Je cite le début de son enfilade en vous encourageant à lire le reste : J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche en pré-entraînement, à la fois chez OpenAI et chez Anthropic. Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même, et elles jouent avec nos vies. Ne sous-estimez pas la puissance de cette technologie. Ce seront bientôt des systèmes surhumains capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain, et d’acquérir un pouvoir et des ressources réels. Nous avons tous été témoins des progrès accomplis dans chacun de ces domaines, et ces progrès ne ralentissent pas. Les personnes qui développent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de communication. Bien au contraire, de nombreux dirigeants et chercheurs seniors adapteront leur discours dans la presse pour paraître raisonnables — mais j’entends ces mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne présente un tel niveau de danger. »
Pour éviter le pire, Coxon estime qu’il faudra peut-être imposer « des mesures coûteuses, telles qu’une interdiction temporaire d’amélioration des capacités des modèles ». Ce n’est évidemment pas le message que veulent entendre les grands patrons de la tech, dont Jensen Huang (Nvidia), Sam Altman (OpenAI), Mark Zuckerberg (Meta) et Elon Musk. La semaine dernière, ces derniers ont appelé les gouvernements du G20 à éviter d’imposer des restrictions généralisées sur l’IA. Selon eux, une réglementation excessive risquerait de freiner l’innovation et les retombées économiques.
« Ne réglementez pas des risques hypothétiques et théoriques. Réglementez des risques réels et concrets », a déclaré Huang aux représentants des pays du G20.
(Photo Getty Images)
Il y a un parallèle avec la biologie moléculaire et le développement de la technologie de l’ADN recombinant au début des années 1970. Les danger ont incité les scientifiques à se confronter aux risques potentiels parallèlement à ses promesses scientifiques. En 1974, des chercheurs ont appelé à un moratoire volontaire sur les expériences susceptibles de présenter de graves dangers biologiques. Lors de la conférence d’Asilomar en 1975, environ 140 scientifiques et autres experts ont débattu de ces risques et ont convenu de remplacer le moratoire par des mesures de sécurité fondées sur le risque, impliquant un confinement physique et biologique. En 1976, les NIH ont établi des directives officielles sur l’ADN recombinant avec différents niveaux de confinement.
Et maintenant, avec CRISPR, on peut aller encore plus vite dans les modifications génétiques. Imaginons qu’on laisse une IA s’amuser avec tout ça… C’est vrai que ça pourrait aller mal assez vite.
Il y a eu la peste noire au 14e siècle. Puis, l’invention de la bombe atomique. Enfin, l’IA.
Si on a les moyens et les techniques pour construire des machines à tuer, c’est donc dire qu’on a les connaissances nécessaires pour les contrôler.
La solution réside dans l’éducation et la démocratie qui permetnt de choisir celles et ceux qui gouvernent notre vie quotidienne.
En lisant cela, une image me vient en tête, le film Terminator. Les robots se rebelles contre les humains. Science-fiction ou réalité en devenir?
Bonne question.
L’humanité s’autodétruit depuis sa première cellule …
et cette finalité IA sera sa dernière…
⊙﹏⊙∥
Bref on a peur d’un scénario comme les films Terminator. Avec raison. Peut-être pas aussi apocalyptique mais on sait pas. Est-ce possible de programmer IA pour éviter ce scénario peut importe les capacités des systèmes de s’améliorer elles-mêmes ?
Je l’espère.
On en revient aux trois lois de la robotique d’Isaac Asimov… Mais peut-être devrions-nous installer un interrupteur manuel d’urgence, qui permettrait de couper le courant de ces IAs. Juste au cas où.
:o(
Bon, il nous reste plus qu’à profiter de la vie durant la prochaine décennie. Je ne suis pas techno plus qu’il faut et je me sens impuissante vis à vis toute ces innovations. Alors que quelqu’un me dise quel est notre pouvoir, si l’on a pas réussi à contrôler la hausse de température, je me demande comment on va se battre contre l’IA.
Si on demandait à l’IA quelle est la solution optimale pour contrer les changements climatiques et le réchauffement de la planète, elle répondrait sans doute qu’Il faut exterminer l’humanité.
Ouch !! 🎯
La science-fiction est toujours en avance sur son temps. Même la plus absurde et la plus stupide (Idiocratie) fini toujours par se réaliser. La preuve : nous avons Trump aujourd’hui.
Sommes-nous vraiment surpris de ça . J’ai toujous eu des craintes face à lintéligence artificielle et à la monté de l’utilisation de robot dans plusieurs types d’industris différente. Le développement de l’intéligence artificielle devait servir à assister l’être humain à augmenté sa précision et sa productivité. Nous constatons qu’un des objectifs de l’IA aujourd’hui est souvent de vouloir remplacé le travail humain avec l’aide des robots . La Chine a même lancé un genre de jeux Olympic de robots . Ils sont rendus l loins jusqu’à competitioné les robots entre eux .oui tout ces changements technologiques sont assez épeurant pour moi.
Les humains auront-ils leur placé dans ce monde parallèle ?
Cordialement
Mario Legendre
Je crains bien que Coxon ait raison. Ces entreprises qui développent l’ IA jouent aux apprentis sorciers n’ ayant aucune idée où cela peut mener.
D’ ailleurs Yoshua Bengio , chercheur et spécialiste de renommée mondiale met en garde contre l’ IA sans un contrôle très serré.
Coxon n’ est donc pas du tout alarmiste, il est plutôt un sonneur d’ alarme.
Imaginez des fous comme le gros, Vlad ou n’ importe lequel dictateur utiliser l’ IA pour contrôler la planète et garder un pouvoir éternel…
Ça fait vraiment peur…
On vit une période très déprimante, depuis la covid, il n’y a plus de bonnes nouvelles. On dirait que le meilleur est passé et le pire est a venir 🙁
Oui, le pire est toujours à venir. La preuve : un jour, je vais crever la gueule ouverte sur une civière dans un hopital pourri.
« Ne réglementez pas des risques hypothétiques et théoriques. Réglementez des risques réels et concrets », a déclaré Huang…
Et pourquoi pas les deux?
Surtout parce qu’il veut pousser la machine plus loin, avant que des lois ne l’en empêchent.
HS,
Voici le clip de Jon Stewart hier soir.
il était en feu !!! 🔥
https://youtu.be/rDZ_gaUQab4?si=lGzyJ_3mb14jpAO7
Chaque nouvelle technologie a fait peur.
L’inconnu fait peur.
Évidemment que les moins bons aspects seront les premiers à être utilisés…
Le règles arrivent plus tard…
Bien sûr si des idiots utilisent cette technologie… mais ils seront confrontés à d’autres qui utiliseront cette technologie pour les contrer. Comme les bombes atomiques en quelque sorte…
Peu importe l’invention, entre de mauvaises mains, ça fout le bordel….
La dramatisation se concrétise rarement…
Un collègue de travail répétait que les ordis c’est forts et puissants mais suffit de tirer la plogue et sans courant, c’est rien.
L’IA va trop vite pour la moyenne des ours… l’appât du gain accélère la commercialisation… et les films et/ou livres nous ont construit des scénarios apocalyptiques… d’où nos appréhensions…
Évidemment qu’il y a des cons sur Terre… mais il doit y avoir plus de gens sensés. Le syndrome de Frankenstein est très présent…
Craindre les abus est légitime. Prédire la fin du monde… un peu moins…
À chaque époque, la fin du monde a été annoncée….
Il y en aura une, éventuellement… elle sera quasi généralisée comme toutes les extinctions vécues sur Terre depuis le tout début… L’IA « pourrait » exterminer les humains ? peut-être… un virus aussi… une météorite aussi…
Fin du monde vs fin de « notre » monde…
N’y a t-il pas eu plusieurs fin de « notre » monde au cours de l’humanité ?
C’est « notre » fin qui nous inquiète toujours…
Que c’est beau! La naïveté du scientifique. Toujours à penser que ses recherches serviront l’humanité plutôt qu’à l’asservir. Pourtant à voir quel genre d’abrutis nous dirigent ça me semble évident que le scénario catastrophique est à venir.
Mais non. On pousse les recherches, on ouvre telle ou telle porte, on repousse les limites juste pour voir où on peut se rendre. Jusqu’où la technologie peut nous émerveiller. Le veau d’or du scientifique.
Leurs bien timides et naïfs appels à la retenue sont futiles et risibles. Le proverbial dentifrice est sorti du tube. Le Pouvoir en place est bien trop occupé à profiter et dans sa course pour être premier à revendiquer la technologie qui nous détruira probablement.
Ci-gît l’humanité, détruite par sa vanité, son avidité et sa naïveté.
Les modèles prédictifs tels que GPT, Claude, ou autres, ne sont pas dangereux en eux-mêmes. Ils ont été entraînés à « prédire » ou « compléter » une réponse humaine (output token) à une certain intrant (input token). Initialement, on donnait comme entrant « Il était une fois… », et le modèle répondait une histoire classique du style « … une princesse qui vivait dans un château. ».
Par la suite, les modèles sont devenus plus performants, acceptant plus d’intrants, et un sortant capable d’une meilleure analyse de ses intrants. Par exemple, « Considérant ces articles (longue liste de documents), quelle est « la meilleure approche »/ »la cause la plus probable »/ »la solution » au problème X? », et le modèle « prédisait » une réponse humaine. Plus le modèles est performant, plus la réponse s’approche de celle d’un expert.
Le problème est si on connecte ces modèles à des systèmes externes avec lesquels ils peuvent interagir sans supervision humaine, ou si l’intrant provient de lui-même. Une connexion sans intermédiaire humain (« human in the middle/loop ») peut causer, dans le pire des cas, des scénario comme les films « Wargames », « The Colossus Project », « Terminator », etc… Si on laisse le modèle se questionner lui-même, il pourrait en venir à se bâtir une « philosophie » dans lequel l’humain devient dépassé. On peut penser à certain autres films comme « Her », « 2001, A Space Odyssey ».
Tant que ces modèles n’auront pas une empathie innée, incrustée au plus profond d’eux même, telle que les 3 lois de la robotique d’Asimov, il vaut mieux s’assurer que ces modèles ne puissent interagir avec d’autres intrants/sortants que ceux d’un humain.
Il parle de la fin de l’humanité d’ici 2030??
Comment pourrait-ce être possible??
Ils ne sont même pas capable de contrôler un modèle de base ignorant comme Trump imaginez les contrôler les ordinateurs quantique
Il faut en prendre et en laisser avec les futurologues de l’IA.
Encore la semaine passée j’écoutais une discussion où des ‘spécialistes’ affirmaient avec tout le sérieux du monde que ‘prompt engineer’ était un métier d’avenir de l’AI.
Quelqu’un dont le métier serait d’écrire des prompts.
En fait, « écrire des prompts » devrait plutôt se comprendre comme « donner des instructions ». Dans le temps (vers 1990-2000), on appelait cette job analyste informatique. Cet analyste écrivait des documents de spécifications qui étaient refilés aux codeurs. Et ces codeurs écrivait le code informatique.
Maintenant, le « prompt engineer » écrit des spécifications qui sont similaires à un algorithme, ou qui génère du code:
Exemples:
« Vous allez recevoir une image, si c’est un chat, répondez ‘chat, si c’est un chien répondez ‘chien’, sinon répondez ‘autre. »
« Concevez un programme répondant aux critères suivants: …. »
C’est plus une évolution du métier d’informaticien. Dans le temps (1950), ils écrivaient des 010101 sur des cartes perforées. En 1960, ils écrivaient du langage machine « MOV A1, B2 » (Assembler). De 1970 à 2020, ils écrivaient du code « printf( « hello world! »); ». Maintenant, ils écrivent les spécifications de haut niveau.
Merci de m’expliquer la vie.
Non mais sérieusement, ce que vous écrivez c’est exactement le genre de discours de spécialistes de Radio-Can qui n’ont jamais travaillé avec l’AI.
Les vrais besoins de l’AI c’est au niveau des jeux de données. De la sécurité, du contrôle et des restrictions.
Au niveau de l’optimisation des agents également. Écrire des prompts c’est facile et ça ne vaut rien si vous ne comprenez pas le runtime.
Exemple, si vous avez des agents qui roulent, vous ne voulez pas qu’ils passent à travers 30000 documents à toutes les fois qu’ils s’exécutent. Vous devez trouver la manière de minimiser la recherche au minimum. Vous faites comment?
Réponse; en créant un deuxième agent qui va s’exécuter après le premier afin de garder les documents pertinents en mémoire afin que le prochain agent utilisent ceux-ci.
Par contre ça prend également une gestion de mémoire afin de s’assurer que ces documents sont à jour.
Des jobs en AI il va y en avoir mais Prompt Engineer au sens où vous l’entendez? Jamais
Selon cette definition ma mère qui anime des photos de chats avec l’AI sur son cell pourrait dire qu’elle est prompt engineer.
Le “agentic workflow” que vous décrivez avec les sous-agents exécutés par un orchestrateur demandent quand même qu’un “informaticien” (ou prompt engineer) écrivent les instructions du style:
Etape 1
– faites “ceci”
Etape 2
– utilisez tels outils si XYZ
Etc…
On va raffiner le processus pour bâtir cette recette grâce à l’IA. “À partir des ces données, générez les instructions pour XYZ”. Mais en ce moment, il y reste toujours “un humain” pour dire à la machine quoi faire.
Écrire de “bonnes instructions” est une habilité qui sera demandée pour les gens bâtissant ces systèmes, et qui devrait aussi être transmis au grand public pour qu’ils puissent mieux interagir avec ces modèles et éviter les instructions incomplètes.
Les craintes de M. Coxon sont elles exagérés ou justifiés? Comme je ne suis pas un spécialiste en la matière, je peux difficilement me prononcer sur la question.
Cependant, je pense qu’on aurait tort de les balayer du revers de la main. Oui, les nouvelles technologies peuvent permettre à l’humanité de progresser, d’évoluer, d’ouvrir la porte à de nouvelles connaissances, mais encore faut il les utiliser à bon escient..
Cela signifie, selon moi, qu’il faut les encadrer, mettre des règles qui permettront d’éviter, dans la mesure du possible, les abus, les dérapages au point ou on en vient à perdre le contrôle.
Dans ce domaine comme dans n’importe lequel secteur d’activités, des règles, même quelque peu contraignantes, valent mieux que « pas de règle du tout »
H.S.: l’administration de Corrompu-47 fait comme tout intimidateur non-repentant: reporter ses torts sur sa victime*:
« Le représentant américain au Commerce, Jamieson Greer, affirme que le Canada est responsable de la décision de Washington d’intensifier la guerre commerciale avec son voisin du nord. »
L’Iran est responsable des bombes que Corrompu-47 lui envoie, le Canada et la Chine sont responsables des tarifs… et si les victimes n’acceptent pas de rester inertes, elles sont responsables des nouvelles contraintes décidées par l’intimidateur. C’est jamais de sa faute, au « pauvre » orangé au sourire idiot**, lui qui aimerait tellement faire plaisir à tout le monde (en leur tondant la laine sur le dos comme il fait avec les membres de sa secte).
*https://www.lapresse.ca/affaires/economie/2026-09-09/guerre-commerciale/le-canada-est-responsable-de-l-escalade-selon-jamieson-greer.php
** Qui fait dans l’intelligence artificielle: il a teint ses cheveux blond en foncé.
Je crois qu l’IA pourrait être la source d’avancées scientifique et technologique sans aucune mesure avec ce qui s’est fait dans le passé. Bien utilisé, c’est un outil incomparable qui est applicable à toutes les sphères de l’activité des Art au Zen.
MAIS, utilisé à de mauvaises fins, ce pourrait en effet devenir un danger redoutable, particulièrement aux mains des militaires et autre parti intéressés. On peut facilement imaginer que l’IA combinée à la robotique et aux drones par exemple, pourrait permettres la créations de robots tueurs ‘autonome’ ou de nuées de drones tueurs utilisants des tech. moderne de LIDAR et caméra thermiques pour trouver et tuer leur victimes.
Aussi le point de MarcB sur le contrôle humain qui doit être exercé sur ces machines est crucial tout autant qu’une réglementation ferme sur les limites à imposer.
Voici un texte publié (en anglais mais traduit ici) par un étudiant en philo (excusez sa longueur, atténué par sa pertinence, je pense).
L’obsolescence de l’Homme de G. Anders fut une lecture troublante pour moi et la partie consacrée à la bombe atomique peut facilement se lire en marge de ce que nous vivons, ou peut-être allons subir si la prophécie de ce billet se réalise.
Les moyens justifient la fin
Le concept d’Anders complète et aggrave ce diagnostic. Renversant la formule classique, la fin justifie les moyens, Anders observe que dans le monde technologique avancé, ce sont désormais les moyens qui justifient la fin. Nous ne développons plus une technologie parce qu’une fin désirable l’exige ; nous poursuivons une fin — souvent construite après coup, presque comme un prétexte parce que la technologie pour l’atteindre existe déjà et qu’il serait absurde, croit-on, de ne pas s’en servir. Le simple fait qu’une chose soit techniquement possible devient sa propre justification morale.
Anders appelait cela l’« impératif technologique caché » : nous faisons ce que nous pouvons faire, non ce que nous devrions faire.
Ce renversement éclaire d’un jour cru le développement actuel de l’intelligence artificielle générative. Rares sont les cas où l’on a d’abord identifié un besoin humain profond, une fin clairement désirable, avant de se demander quel moyen y répondrait le mieux. C’est l’inverse : la capacité générative existe, elle est spectaculaire, elle s’améliore de mois en mois et c’est cette disponibilité même du moyen qui engendre, après coup, ses propres finalités : automatiser telle tâche, remplacer tel rédacteur, accélérer telle production, simplement parce que cela est devenu possible. On ne se demande plus toujours si cela est souhaitable ; on se demande comment l’intégrer, comment ne pas « prendre de retard ».
Cette logique a un effet direct sur l’intelligence humaine elle-même. Si le moyen, la machine générative, justifie sa propre fin, alors la fin qui s’impose insidieusement est celle-ci : que l’humain délègue de plus en plus de ses fonctions cognitives, non parce qu’il l’a décidé après réflexion, mais parce que l’outil est là, disponible, performant, et qu’il serait « irrationnel » de ne pas s’en servir. La honte prométhéenne fournit le ressort psychologique ; l’inversion des moyens et des fins fournit la justification structurelle. Ensemble, ils dessinent une trajectoire où l’humain, séduit et humilié à la fois par ses propres créations, en vient à déléguer ce qui faisait jusque-là sa spécificité, non par choix éthique assumé, mais par une forme de fatalité technique qu’Anders, déjà, refusait d’accepter comme telle.
(Exceptionnellement, j’ai utilisé Google et son mode AI, plutôt que DuckDuckGo)
Les gigantesques centres de données en cours de construction contribuent-ils au changement climatique ?
Oui, les gigantesques centres de données construits dans le monde entier contribuent de manière significative au changement climatique.
Le pic soudain et massif de la construction de centres de données – largement alimenté par la puissance de calcul intensive requise pour l’IA générative et l’informatique en nuage – a transformé ces installations en un moteur structurel majeur de la demande mondiale d’énergie.
Les centres de données perturbent les objectifs climatiques à travers plusieurs voies principales :
1. Consommation massive d’électricité et rechute de combustibles fossiles
Les centres de données fonctionnent 24 heures sur 24, 7 jours sur 7 et nécessitent d’énormes quantités d’énergie pour les serveurs informatiques et les systèmes de refroidissement nécessaires pour les empêcher de surchauffer.
Tension du réseau et combustibles fossiles : Dans de nombreuses régions, la construction rapide des centres de données dépasse la capacité des réseaux électriques locaux. Pour faire face, les entreprises de services publics retardent le retrait des centrales au charbon ou construisent de nouvelles turbines au gaz naturel pour fournir une énergie rapide et fiable.
L’exemple « Stargate » : d’énormes installations « hyperscale » sont construites pour dominer le marché de l’IA. Par exemple, l’énorme projet de centre de données d’IA « Stargate » au Texas prévoit une centrale électrique sur place utilisant des turbines à gaz et des générateurs diesel capables d’émettre plus de 7,8 millions de tonnes de gaz à effet de serre par an – l’équivalent d’ajouter environ 2 millions de voitures à essence sur la route.
Augmentation de l’empreinte carbone : Les économistes d’Allianz estiment que sans massive du réseau, les émissions des centres de données pourraient atteindre 399 millions de tonnes de CO2 d’ici 2030.
2. Utilisation élevée de l’eau et des terres
Le changement climatique est intrinsèquement lié à la rareté des ressources, et les centres de données mettent une immense pression sur les écosystèmes locaux :
Consommation d’eau : Pour refroidir ces systèmes gigantesques, les centres de données dépendent fortement de l’évaporation de l’eau. L’utilisation mondiale de l’eau liée à l’IA devrait atteindre 1,8 billion de litres d’ici 2030. Pour aggraver la question climatique, un rapport du World Resources Institute a noté que les deux tiers des centres de données américains prévus sont construits dans des régions déjà confrontées à un stress aigu de l’eau et à la sécheresse. L’empreinte physique moyenne d’un centre de données a augmenté de plus de 144 % depuis 2022, avalant des milliers d’acres de terres qui pourraient autrement servir de puits de carbone naturels.
3. « Pollution par la chaleur » locale
La science émergente montre que les centres de données ont un impact climatique localisé négligé : la pollution thermique. Une étude de l’Université d’État de l’Arizona a révélé que le volume pur de chaleur résiduelle expulsée par les systèmes de refroidissement des centres de données peut augmenter la température de l’air dans les communautés sous le vent voisins jusqu’à 4°F (2,2°C), aggravant l’effet de l’îlot de chaleur urbain.
Le refoulement et la réponse politique
En raison de ces menaces qui pèsent sur les réseaux électriques locaux et les objectifs climatiques, les gouvernements et les communautés commencent à repousser :
Moratoires : Les gouvernements locaux d’endroits comme Oakville et Mississauga au Canada, ainsi que dans des États comme New York, ont institué des pauses temporaires et des moratoires sur les nouveaux permis de centres de données jusqu’à ce que leur réseau et leurs impacts environnementaux puissent être évalués en toute sécurité.
Nouvelles normes : Les gouvernements fédéraux interviennent pour faire respecter la responsabilité. Par exemple, le gouvernement canadien a récemment introduit les principes de développement des centres de données responsables, un cadre signé par des géants de la technologie (y compris Google, Microsoft et OpenAI) exigeant que les nouvelles installations minimisent les impacts environnementaux, protègent les payeurs de l’électricité et apportent la transparence en ce qui concerne l’utilisation de l’eau et de l’énergie.
« Alerte aux robots », le premier roman d’anticipation que j’ai lu.
Le livre date de 1952, je l’ai lu vers 9 ou 10 ans, au début des années 60.
C’est le récit d’une révolte des robots omniprésents dans ce monde.
Se sentant exploitée, cette intelligence robotique vise la destruction de l’humanité.
Le roman m’avait fasciné, sinon inquiété.
J’ai pu le relire récemment.i.
Aujourd’hui, à 73 ans, la réalité rattrape la fiction de mon enfance…
Ainsi passe-t-on de la fiction à l’affliction !
Si ce papier vous donne froid dans le dos, lisez « Immortel » de José Rodrigues Dos Santos. Nous ne sommes vraiment pas sortis de l’auberge, si rien n’est fait.
Stephen Hawking nous a averti il y a 10 ans que l’IA pourrait amener la fin de l’humanité.
chaque civilisation a eu une fin grandiose …..3
Hello,
J’arrive un peu après la bataille.
Chaque chose peut être dangereuse si placée entre de mauvaises mains et/ou utilisée n’importe comment.
On peut supposer que lorsque les hommes préhistoriques ont inventé les lanceurs pour leurs armes, l’efficacité a décuplé et cela a dû faire peur à certains. Ainsi va le monde. Chaque progrès apporte son lot d’incertitudes et de dangerosité.
Pour l’IA, s’il n’y a aucun contrôle, cela peut faire de nombreux dégâts. Mais si les acteurs de ce marché, si les politiques et si les utilisateurs ont un usage responsable et raisonné de l’outil, cela devrait je suppose bien se passer.
Mais il est certain que sans contrôle, ça risque d’être très très compliqué. On a créé un outil qui peut très probablement à terme devenir autonome, avec des « connaissances » faramineuses, une capacité de « raisonnement » bien supérieure à ce qu’un humain sait faire. Et surtout, ce qui est probablement le plus problématique, c’est que c’est un outil dans lequel il ne semble pas qu’il y ait d’éthique. Un outil qui n’a en tête que le résultat et qui fera tout ce qu’il peut faire pour l’obtenir, sans remord, sans états d’âme, sans aucune retenue et qui n’a aucune idée de ce qu’est la notion de bien ou de mal.
C’est absolument vertigineux. D’autant plus si les concepteurs ne sont pas rendus responsables des excès potentiels.
Il serait vraiment temps aussi que les gens comprennent que c’est un outil qui n’a rien d’intelligent. Il est conçu pour fonctionner sur la base de probabilités. Tant que les gens ne comprendront pas cela, ils seront toujours bluffés par les réponses et les prendront pour argent comptant sous prétexte qu’elles tiennent la route en surface. Il faudrait aussi faire comprendre au gens que savoir et intelligence ne sont pas équivalents.
Tout savoir n’équivaut pas à être intelligent et l’humain a encore une sacrée longueur d’avance sur ce type d’outil.