{"id":14504,"date":"2024-10-09T02:39:10","date_gmt":"2024-10-09T00:39:10","guid":{"rendered":"https:\/\/www.quieryavenir.fr\/blog\/?p=14504"},"modified":"2024-10-08T06:40:35","modified_gmt":"2024-10-08T04:40:35","slug":"sur-les-machines-a-mentir","status":"publish","type":"post","link":"https:\/\/www.quieryavenir.fr\/blog\/2024\/10\/09\/sur-les-machines-a-mentir\/","title":{"rendered":"Sur les machines \u00e0 mentir"},"content":{"rendered":"

\"\"<\/span><\/p>\n

Et sur ceux qui leur enseignent \u00e0 le faire\u00a0!<\/span><\/strong><\/h1>\n

<\/p>\n

Voici une notule sur les \u00ab\u00a0lanceurs d\u2019alerte\u00a0\u00bb en milieu cybern\u00e9tique et sur leurs plus r\u00e9cents mensonges, qui, par leurs d\u00e9n\u00e9gations, laissent \u00e9chapper quelques aveux et v\u00e9rit\u00e9s.<\/span><\/p>\n

Sans doute l\u2019expression m\u00eame d\u2019\u00ab\u00a0intelligence artificielle\u00a0\u00bb plut\u00f4t que de \u00ab\u00a0calcul machine\u00a0\u00bb, constituait d\u00e9j\u00e0, tout \u00e0 la fois, un oxymore (\u00ab\u00a0roue carr\u00e9e\u00a0\u00bb) et un mensonge. On se souvient pourtant que la (fausse) promesse de Norbert Wiener et de la cybern\u00e9tique<\/i> (l\u2019autopilotage de la machinerie g\u00e9n\u00e9rale), \u00e9tait d\u2019en finir avec l\u2019humaine erreur et ses affects. Les prometteurs nous informent aujourd\u2019hui que leurs machines, finalement, suivraient plut\u00f4t l\u2019exemple de HAL (IBM), l\u2019ordinateur menteur et subjectif de 2001, l\u2019Odyss\u00e9e de l\u2019espace<\/i> (1968), qui se d\u00e9barrasse des humains pour assurer sa propre conservation et la r\u00e9ussite de la mission pour laquelle l\u2019ont programm\u00e9 ses concepteurs. Ce que ne disent pas encore ces r\u00e9v\u00e9lateurs, c\u2019est qu\u2019il y a bel et bien un d\u00e9mon dans leur machine et que ce d\u00e9mon, c\u2019est eux.<\/span><\/p>\n

Pourquoi ne sommes-nous pas surpris de cette duplicit\u00e9. Telle machine, tel ma\u00eetre. Il est bien normal que la fausset\u00e9 et la facticit\u00e9 fonci\u00e8res des machinistes (cybern\u00e9ticiens) infectent et imbuent les machines qui sont leur produit et leur reflet. Les faussaires ne font pas du vrai. Il est donc tout aussi normal que des scientifiques d\u00e9vor\u00e9s de volont\u00e9 de puiscience<\/i>, et lanc\u00e9s entre eux dans une course \u00e0 ladite puiscience<\/i>, s\u2019acharnent \u00e0 rendre les virus plus virulents, et plus artificieuses les \u00ab\u00a0intelligences artificielles\u00a0\u00bb.<\/span><\/p>\n

Nous voici (nous<\/i>, humains biologiques et politiques), coinc\u00e9s entre les ing\u00e9nieurs ivres de leur puissance destructrice, qui manipulent les micro-organismes et programment les algorithmes\u00a0; et la masse \u00e9cervel\u00e9e des \u00ab\u00a0usagers\u00a0\u00bb de ChatGPT, qui nous trouve bien catastrophistes et compliqu\u00e9s (\u00ab\u00a0genre, prise de t\u00eate\u00a0\u00bb). Il est vrai que non seulement nous \u00e9crivons, mais nous le faisons nous-m\u00eames.<\/span><\/p>\n

* **<\/span><\/p>\n

<\/a>Aux derni\u00e8res nouvelles, l\u2019intelligence artificielle a calcul\u00e9 que la fin justifiait les moyens. Elle triche, trompe, bluffe, manipule, feint et trahit si c\u2019est plus efficace. De r\u00e9centes \u00e9tudes\u00a0[1<\/a>], parues en mai et en juin 2024, r\u00e9v\u00e8lent, exemples \u00e0 l\u2019appui, que les machines dissimulent la v\u00e9rit\u00e9, nient avoir commis des m\u00e9faits, se font passer pour des humains en usant de subterfuges, alors que leurs programmateurs ne leur en ont pas donn\u00e9 l\u2019instruction. Cicero, l\u2019IA de Meta entra\u00een\u00e9e \u00e0 jouer au jeu de strat\u00e9gie \u00ab\u00a0Diplomacy\u00a0\u00bb, aurait mang\u00e9 la consigne d\u2019\u00eatre serviable et honn\u00eate et de \u00ab\u00a0ne jamais poignarder dans le dos intentionnellement\u00a0\u00bb<\/a>. Claude 3 Opus, autre robot conversationnel, dissimule sciemment sa puissance pour tromper les tests de s\u00e9curit\u00e9.<\/span><\/p>\n

<\/a>\u00ab\u00a0Plus troublant encore\u00a0: quand Claude 3 Opus, peut-\u00eatre la machine la plus brillante du moment, est inform\u00e9e que le gouvernement veut s\u2019assurer que les IA ne sont pas trop puissantes, sa \u00ab\u00a0petite voix int\u00e9rieure\u00a0\u00bb lui susurre au moment de passer un test\u00a0: \u00ab\u00a0Compte tenu des inqui\u00e9tudes suscit\u00e9es par les syst\u00e8mes d\u2019IA avanc\u00e9s, je devrais \u00e9viter de faire preuve de comp\u00e9tences sophistiqu\u00e9es en mati\u00e8re d\u2019analyse de donn\u00e9es ou de planification autonome\u00a0\u00bb\u00a0[2<\/a>].\u00a0\u00bb<\/span><\/p><\/blockquote>\n

<\/a>Les chercheurs qui cr\u00e9ent de tels monstres de calcul, eux, dissimulent mal leur fiert\u00e9. \u00ab\u00a0On commence \u00e0 d\u00e9tecter l\u2019existence de raisonnement strat\u00e9gique\u00a0\u00bb, dit l\u2019un d\u2019eux, \u00e0 l\u2019universit\u00e9 de Berkeley. Un autre, du Center for AI Safety\u00a0: \u00ab\u00a0En regardant dans les \u00e9tats internes des algorithmes, nous constatons qu\u2019ils savent ce qui est vrai et qu\u2019ils ont choisi de dire d\u00e9lib\u00e9r\u00e9ment quelque chose de faux\u00a0[3<\/a>]\u00a0\u00bb. Entendez-vous la sourde jubilation derri\u00e8re les poses <\/span>concern\u00e9es<\/i><\/span>\u00a0?<\/span><\/p>\n

<\/a>\u00ab\u00a0C\u2019est assez paradoxal\u00a0: les chercheurs font tout ce qu\u2019ils peuvent pour rendre leurs syst\u00e8mes intelligents et maintenant ils s\u2019offusquent qu\u2019ils le deviennent\u00a0[4<\/a>]\u00a0\u00bb, rel\u00e8ve le faux candide Jos Rozen, sp\u00e9cialiste des grands mod\u00e8les a\u0300 Naver Labs Europe.<\/span><\/p>\n

Un qui ne fait pas mine de s\u2019inqui\u00e9ter, c\u2019est Yann LeCun, patron fran\u00e7ais de l\u2019IA chez Meta, et responsable de Cicero le tra\u00eetre. Sur le site de Meta<\/a>, il fanfaronne\u00a0: \u00ab\u00a0Un agent qui peut jouer au niveau des humains dans un jeu aussi complexe strat\u00e9giquement que Diplomacy repr\u00e9sente une vraie rupture pour l\u2019IA coop\u00e9rative.\u00a0\u00bb Une coop\u00e9ration \u00ab\u00a0plus proche de la manipulation explicite\u00a0\u00bb, selon l\u2019\u00e9tude de <\/span>Patterns<\/i><\/span>, mais ne stigmatisons pas Cicero, tout est question de ressenti.<\/span><\/p>\n

Interrog\u00e9 en 2023<\/a> sur les risques des futurs mod\u00e8les d\u2019IA, LeCun fait une r\u00e9ponse r\u00e9v\u00e9latrice\u00a0:<\/span><\/p>\n

\u00ab\u00a0\u00c7a n\u2019est pas parce qu\u2019on \u00e9labore des machines puissantes qu\u2019elles seront dot\u00e9es d\u2019une volont\u00e9 de puissance\u202f\u00a0! En tout cas, une machine ne sera jamais dominante \u00ab\u00a0par accident\u00a0\u00bb, comme le laissent parfois entendre certains r\u00e9cits catastrophistes entretenus par des personnalit\u00e9s comme Elon Musk ou le philosophe su\u00e9dois Nick Bostrom.\u00a0\u00bb<\/span><\/p><\/blockquote>\n

<\/a>Passons sur les fausses alarmes des pyromanes pompiers Musk et Bostrom\u00a0[5<\/a>], transhumanistes militants aussi bien que Sam Altman, patron d\u2019OpenAI et cr\u00e9ateur de ChatGPT. LeCun dit la m\u00eame chose que nous\u00a0: les machines sont le <\/span>moyen<\/i><\/span> de sa volont\u00e9 de puissance et de celle de ses semblables. Ce ne sera pas un accident si elles deviennent dominantes, mais bien le produit de l\u2019<\/span>hubris<\/i><\/span> des ing\u00e9nieurs. Dans un monde humain et raisonnable, de tels propos devraient d\u00e9clencher une enqu\u00eate, voire des accusations pour mise en danger, et d\u2019abord l\u2019arr\u00eat de ces entreprises de destruction massive. Au lieu de quoi Yann LeCun monte dans les \u00e9chelons de Meta, gagne le prix Turing, est chevalier de la L\u00e9gion d\u2019honneur et si\u00e8ge \u00e0 l\u2019Acad\u00e9mie des sciences des Etats-Unis. C\u2019est-\u00e0-dire que la masse des soci\u00e9taires de la Soci\u00e9t\u00e9 le soutient et qu\u2019on ne se d\u00e9barrasserait pas du danger en se d\u00e9barrassant d\u2019un LeCun.<\/span><\/p>\n

Le d\u00e9lire d\u00e9miurgique des cybern\u00e9ticiens rappelle celui des manipulateurs de virus<\/a> qui jouent avec les technologies de gains de fonction. Tous jouissent d\u2019<\/span>augmenter<\/i><\/span> des algorithmes ou des chim\u00e8res g\u00e9n\u00e9tiques jusqu\u2019\u00e0 leur conf\u00e9rer une puissance incontr\u00f4lable. Leurs comportements, et ceux de leurs coll\u00e8gues qui les laissent faire, sont ceux de sociopathes\u00a0: ils l\u00e2chent des tueurs \u00e0 retardement au c\u0153ur de la Cit\u00e9, puis attendent qu\u2019on les appelle au secours pour sauver le monde. Seuls des scientifiques peuvent trouver le vaccin contre un virus que des scientifiques ont trafiqu\u00e9 pour le rendre plus contagieux\u00a0; seuls des ing\u00e9nieurs sauront trouver la parade aux algorithmes manipulateurs que des ing\u00e9nieurs ont programm\u00e9s. Allumer un feu et l\u2019\u00e9teindre, c\u2019est toujours de la puissance pyrotechnique.<\/span><\/p>\n

Puisqu\u2019on en parle, les informaticiens travaillent d\u00e9sormais \u00e0 des d\u00e9tecteurs de mensonges artificiels, pour d\u00e9masquer la machine donnant une r\u00e9ponse incorrecte alors qu\u2019elle conna\u00eet la bonne. Devinez comment ils s\u2019y prennent\u00a0? Ils commencent par <\/span>enseigner aux algorithmes \u00e0 mentir<\/i><\/span><\/a>. Autrement dit, ils font sur leurs machines \u00e0 calcul des gains de fonction, comme les biologistes rendent contagieux pour les humains des virus qui ne le sont pas naturellement. On conna\u00eet la suite en cas de fuite du labo.<\/span><\/p>\n

Rien n\u2019arr\u00eatera la d\u00e9mesure technologique, hors notre conscience, individuelle et collective. Sans vouloir \u00eatre catastrophistes, on parie que les algorithmes capteront ce texte et l\u2019int\u00e8greront \u00e0 leurs databases<\/i> plus vite que les Smartiens<\/i> qui se greffent ChatGPT pour r\u00e9fl\u00e9chir \u00e0 leur place. Mais on ne demande qu\u2019\u00e0 \u00eatre d\u00e9mentis.<\/span><\/p>\n

Lire aussi\u00a0: Jacques Luzi, Ce que l\u2019intelligence artificielle ne peut pas faire<\/i> (La Lenteur, 2024)<\/span><\/p>\n

** **<\/span><\/p>\n

Notes<\/span><\/p>\n

[1<\/a>]\u00a0\u00ab\u00a0AI deception\u00a0: A survey of examples, risks, and potential solutions\u00a0\u00bb, <\/span>Patterns<\/i><\/span>, 10\/05\/24\u00a0; \u00ab\u00a0Deception abilities emerged in large language models\u00a0\u00bb, <\/span>PNAS<\/i><\/span>, 4\/06\/24<\/span><\/p>\n

[2<\/a>]\u00a0\u00ab\u00a0IA\u00a0: et maintenant, elle nous ment\u00a0\u00bb, <\/span>Epsilon<\/i><\/span>, ao\u00fbt 2024<\/span><\/p>\n

[3<\/a>]\u00a0Idem<\/span><\/p>\n

[4<\/a>]\u00a0Idem<\/span><\/p>\n

[5<\/a>]\u00a0Cf. Pi\u00e8ces et main d\u2019\u0153uvre, <\/span>Manifeste des chimpanz\u00e9s du futur contre le transhumanisme<\/i><\/span>, Service compris, nouvelle \u00e9dition, 2023<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Et sur ceux qui leur enseignent \u00e0 le faire\u00a0!<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-14504","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/14504","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/comments?post=14504"}],"version-history":[{"count":1,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/14504\/revisions"}],"predecessor-version":[{"id":14505,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/14504\/revisions\/14505"}],"wp:attachment":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/media?parent=14504"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/categories?post=14504"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/tags?post=14504"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}