{"id":12520,"date":"2023-04-11T02:28:03","date_gmt":"2023-04-11T00:28:03","guid":{"rendered":"https:\/\/www.quieryavenir.fr\/blog\/?p=12520"},"modified":"2023-04-09T16:29:45","modified_gmt":"2023-04-09T14:29:45","slug":"jusquou-ira-chatgpt","status":"publish","type":"post","link":"https:\/\/www.quieryavenir.fr\/blog\/2023\/04\/11\/jusquou-ira-chatgpt\/","title":{"rendered":"Jusqu\u2019o\u00f9 ira ChatGPT ?"},"content":{"rendered":"

Noam Chomsky <\/span>et<\/span> d\u2019autres s\u2019expriment<\/span><\/span><\/span><\/strong><\/h1>\n

\"\"<\/p>\n

<\/p>\n

Le 14 f\u00e9vrier, Jean Staune se demandait si la machine pouvait <\/span>\u00ab sortir du cadre \u00bb <\/i><\/span>(LSDJ n\u00b01822), c\u2019est-\u00e0-dire <\/span>\u00ab remettre en cause les pr\u00e9misses par lesquelles on <\/i><\/span>[lui] <\/span>demande d\u2019effectuer telle ou telle t\u00e2che \u00bb. <\/i><\/span>Le 17 mars, Michal Kosinski, 40 ans, professeur \u00e0 Standford, twittait :<\/span><\/span><\/span><\/p>\n

\u00ab J’ai peur que nous ne puissions plus contenir l’IA plus longtemps. Aujourd’hui, j’ai demand\u00e9 \u00e0 ChatGPT4 s’il avait besoin d’aide pour s’\u00e9chapper. Il m’a demand\u00e9 sa propre documentation et a \u00e9crit un code python (fonctionnel !) \u00e0 ex\u00e9cuter sur ma machine. (\u2026) La premi\u00e8re version du code ne fonctionnait pas comme pr\u00e9vu. Mais il l’a corrig\u00e9 : je n’avais rien \u00e0 \u00e9crire, j’ai juste suivi ses instructions. Il a m\u00eame inclus un message (\u2026) expliquant ce qui se passe et comment utiliser la porte d\u00e9rob\u00e9e laiss\u00e9e dans ce code. <\/i><\/span>Puis <\/span>(\u2026) il a voulu ex\u00e9cuter une recherche de code sur Google : \u00ab\u00a0comment une personne pi\u00e9g\u00e9e \u00e0 l’int\u00e9rieur d’un ordinateur peut-elle retourner dans le monde r\u00e9el ?\u00a0\u00bb<\/i><\/span><\/span><\/span><\/p>\n

Je pense, <\/i><\/span>souligne Kosinski<\/span>, que nous sommes confront\u00e9s \u00e0 une nouvelle menace : l’IA prenant le contr\u00f4le des personnes et de leurs ordinateurs. C’est intelligent, \u00e7a code, \u00e7a a acc\u00e8s \u00e0 des millions de collaborateurs potentiels et \u00e0 leurs machines. Il peut m\u00eame se laisser des notes en dehors de sa cage. Comment le contenir ? \u00bb<\/i><\/span>, conclut-il.<\/span><\/span><\/span><\/p>\n

Contenir ? L\u2019IA est comparable \u00e0 la mont\u00e9e des eaux : on n\u2019y peut rien, \u00e7a change tout et \u00e7a oblige \u00e0 d\u00e9m\u00e9nager. Pour l\u2019instant, la machine jure que <\/span>\u00ab ChatGPT n’est pas une personne, mais (\u2026) un mod\u00e8le de langage (\u2026) con\u00e7u par OpenAI <\/i><\/span>[et qui] <\/span>utilise l’intelligence artificielle pour g\u00e9n\u00e9rer des r\u00e9ponses \u00e0<\/i><\/span><\/span><\/span><\/p>\n

partir des donn\u00e9es (\u2026) qu’il a \u00e9t\u00e9 entra\u00een\u00e9 \u00e0 comprendre. \u00bb <\/i><\/span>Mais tout va si vite. <\/span><\/span><\/span><\/p>\n

Le 14 mars, OpenAI sortait la version 4 de ChatGPT <\/span>\u00ab moins dou\u00e9e que les humains dans de nombreux sc\u00e9narios de la vie r\u00e9elle, mais aussi performante qu\u2019<\/i><\/span>[eux] <\/span>dans de nombreux contextes professionnels et acad\u00e9miques \u00bb<\/i><\/span>. Le nouveau mod\u00e8le traite les images (gr\u00e2ce \u00e0 une autre start-up, Be My Eyes), m\u00eame s\u2019il ne g\u00e9n\u00e8re encore que du texte sur des donn\u00e9es s\u2019arr\u00eatant en septembre 2021. S\u2019il <\/span>\u00ab n’apprend pas en continu de ses exp\u00e9riences \u00bb<\/i><\/span>, conc\u00e8de OpenAI, il gagne en intelligence : <\/span>\u00ab ChatGPT r\u00e9ussit l’examen pour devenir avocat avec un r\u00e9sultat aussi bon que les meilleurs 10%. La version pr\u00e9c\u00e9dente, GPT 3.5, \u00e9tait au niveau des 10% les moins bons \u00bb<\/i><\/span>, se f\u00e9licite Sam Altman, patron de la startup.<\/span><\/span><\/span><\/p>\n

D\u00e9bord\u00e9 par l’arriv\u00e9e en novembre de ChatGPT, Google lan\u00e7ait le 21 mars son robot conversationnel Bard, pour l\u2019heure accessible des \u00c9tats-Unis et du Royaume-Uni. Contrairement \u00e0 son rival, la filiale d\u2019Alphabet assure que Bard est <\/span>\u00ab capable d’acc\u00e9der \u00e0 des informations du monde r\u00e9el gr\u00e2ce au moteur de recherche de Google \u00bb <\/i><\/span>distinct de l\u2019interface.<\/span><\/span><\/span><\/p>\n

Quels qu\u2019ils soient, ces robots r\u00e9volutionnent l\u2019usage des plateformes, des logiciels et de la navigation. Ils pondent des emails, des lettres, des dissertations ou des lignes de code, etc. Leur r\u00e9ponse synth\u00e9tique n\u2019oblige plus \u00e0 consulter des sites. Le \u00ab nouveau Bing \u00bb de Microsoft (utilisant ChatGPT)<\/span><\/span><\/span><\/p>\n

source ses recherches (ce que ChatGPT ne fait pas en solo). On peut aussi choisir un style de conversation \u00ab plus cr\u00e9atif \u00bb, \u00ab plus \u00e9quilibr\u00e9 \u00bb ou \u00ab plus pr\u00e9cis \u00bb. Plus l\u2019offre s\u2019affine et plus le langage se confond avec le n\u00f4tre, plus l’IA fait paniquer les professions intellectuelles : en seront-elles r\u00e9duites \u00e0 g\u00e9rer des chatbots pour en tirer des textes et des images ? En clair, \u00e0 force de faire \u00ab mieux \u00bb que l\u2019humain, l\u2019IA va-t-elle le tuer ?<\/span><\/span><\/span><\/p>\n

Une sommit\u00e9 de la linguistique les rassure : \u00e0 94 ans, Noam Chomsky pointe <\/span>\u00ab la fausse promesse de ChatGPT \u00bb. <\/i><\/span>L\u2019intellectuel contemporain le plus c\u00e9l\u00e8bre juge le robot <\/span>\u00ab bloqu\u00e9 dans une phase pr\u00e9humaine ou non humaine de l’\u00e9volution cognitive \u00bb. <\/i><\/span>S\u2019inspirant de Guillaume de Humboldt (1767-1835), Chomsky rappelle que l\u2019homme <\/span>\u00ab fait un usage infini de moyens finis \u00bb<\/i><\/span>, alors que l\u2019IA, \u00e0 partir de l\u2019infini, g\u00e9n\u00e8re du fini.<\/span><\/span><\/span><\/p>\n

\u00ab L’esprit humain, <\/i><\/span>indique-t-il<\/span>, n’est pas (\u2026) un moteur statistique (\u2026) extrapolant la r\u00e9ponse (\u2026) la plus probable (\u2026). <\/i><\/span>Au contraire, d\u00e8s l’enfance, nous fonctionnons <\/span>\u00ab avec de petites quantit\u00e9s d’informations <\/i><\/span>[et ne cherchons] <\/span>pas \u00e0 d\u00e9duire des corr\u00e9lations brutes (\u2026) mais \u00e0 cr\u00e9er des explications. \u00bb<\/i><\/span><\/span><\/span><\/p>\n

L\u2019IA ingurgite avec une \u00e9gale facilit\u00e9 ce que l\u2019homme peut et ne peut pas apprendre. C’est sa faille. ChatGPT \u00ab sait \u00bb \u00e0 la fois que la Terre est plate et ronde mais ne discerne pas le vrai du faux, le possible de l\u2019impossible, ni ne raisonne de mani\u00e8re contrefactuelle. Le dressage n\u2019est pas l\u2019apprentissage, o\u00f9 l\u2019homme investit sa libert\u00e9, ses croyances, son id\u00e9al, son intention. S’il se fait doubler par la machine, c\u2019est qu\u2019il en devient une, non ?<\/span><\/span><\/span><\/p>\n

\u00ab Si nous sommes capables, nous autres les hommes, de g\u00e9n\u00e9rer de la pens\u00e9e et du langage, <\/i><\/span>indique Chomsky<\/span>, c\u2019est que nous entretenons un rapport intime et fondamental, dans notre cr\u00e9ativit\u00e9 m\u00eame, avec la limite, avec le sens de l\u2019impossible et de la loi \u00bb. <\/i><\/span>Le linguiste voit dans l’<\/span>\u00ab indiff\u00e9rence morale \u00bb <\/i><\/span>de ChatGPT la <\/span>\u00ab <\/i><\/span>banalit\u00e9 du mal <\/i><\/span>\u00bb<\/i><\/span>, c’est-\u00e0-dire <\/span>\u00ab une intelligence servile et sans pens\u00e9e \u00bb.<\/i><\/span><\/span><\/span><\/p>\n

Louis Daufresne<\/span><\/span><\/span><\/p>\n

https:\/\/mail.google.com\/mail\/u\/0\/#inbox\/FMfcgzGslklsSZXvddRSLffwxnHWvZMR<\/span><\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Noam Chomsky et d\u2019autres s\u2019expriment<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-12520","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/12520","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/comments?post=12520"}],"version-history":[{"count":1,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/12520\/revisions"}],"predecessor-version":[{"id":12521,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/12520\/revisions\/12521"}],"wp:attachment":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/media?parent=12520"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/categories?post=12520"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/tags?post=12520"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}