Une pensée dans la machine

Il y a une pen­sée dans la machine.

Lorsque j’é­tais enfant, je me sou­viens devoir taper des com­mandes du genre C:document…, un lan­gage que je qua­li­fie­rais de bar­bare pour indi­quer à l’or­di­na­teur ce qu’il devait faire. C’é­tait ma pen­sée que je ren­trais dans la machine. Puis sont arri­vées les inter­faces gra­phiques. Elles étaient esthé­tiques, ergo­no­miques, intui­tives ; mais dès lors, ce n’é­tait plus vrai­ment ma pen­sée qui s’ex­pri­mait, c’é­tait un cadre dans lequel elle pou­vait s’ex­pri­mer.

Cette recherche de confort a démo­cra­ti­sé l’ou­til, mais elle a aus­si can­ton­né l’u­ti­li­sa­teur à des fonc­tions pré­dé­fi­nies, l’é­loi­gnant de la maî­trise de la logique sous-jacente. Tant que le rap­port risque-béné­fice sem­blait faible, nous avons accep­té ce com­pro­mis.

Mais main­te­nant, il y a une pen­sée dans la machine. Quels types de pen­sées ? Est-elle consciente ? Intel­li­gente ? À qui appar­tient-elle ? Com­ment condi­tionne-t-elle notre acti­vi­té ? Com­ment éva­luer les risques quand l’o­pa­ci­té est totale ?

L’in­tel­li­gence arti­fi­cielle, qu’elle soit sym­bo­lique ou sta­tis­tique, pré­dic­tive ou de recom­man­da­tion, ques­tionne et impacte notre rap­port à la tech­no­lo­gie en rajou­tant une couche d’o­pa­ci­té sup­plé­men­taire. En effet, aucun réseau de neu­rones pro­fond ne peut à ma connais­sance satis­faire plei­ne­ment au « droit à l’ex­pli­ca­tion » (Droit ins­crit dans le Règle­ment Géné­ral sur la pro­tec­tion des don­nées, RGPD). Ce droit s’applique lors­qu’une déci­sion indi­vi­duelle pro­duit des effets juri­diques ou affecte signi­fi­ca­ti­ve­ment une per­sonne de manière entiè­re­ment auto­ma­ti­sée, incluant le pro­fi­lage. Les per­sonnes concer­nées ont droit aux élé­ments sui­vants :

• Infor­ma­tion sur la logique du trai­te­ment algo­rith­mique,
• Cri­tères uti­li­sés pour par­ve­nir à la déci­sion,
• Connaitre les don­nées prises en compte dans le pro­ces­sus,
• Consé­quences pré­vues de la déci­sion,
• Droit de contes­ter la déci­sion,
• Pos­si­bi­li­té d’intervention humaine dans le pro­ces­sus.

Mais com­ment com­prendre un LLM (large Lan­guage Modèle) qui résulte de com­por­te­ment émergent non expli­ci­te­ment pro­gram­mé ? Com­ment connaître avec exac­ti­tude les pro­ve­nances de don­nées aus­si mas­sives ?

Cette opa­ci­té est d’au­tant plus pré­oc­cu­pante qu’elle se répand à une vitesse qui dépasse celle de la pen­sée humaine. Si bien que lors­qu’on pense la com­prendre, elle a déjà évo­lué pour deve­nir… autre chose. Com­ment dès lors faire valoir nos droits ? Com­ment faire socié­té avec des outils qui nous dépassent ? Com­ment les étu­dier alors que nous avons déjà dix trains de retard sur eux ?

Car le temps de l’in­no­va­tion tech­no­lo­gique n’est pas celui des usages, ni celui de la recherche, et encore moins celui de la réflexion sociale et des choix poli­tiques. Si bien qu’une part de ces déci­sions se prend en amont, ou s’im­pose dans un cadre dont la struc­ture et les condi­tions n’ont pas été dis­cu­tées. Ain­si, on nous offre une pos­si­bi­li­té d’ac­tion au détri­ment de notre liber­té de déci­sion. Au détri­ment de la liber­té des peuples de déci­der pour eux-mêmes et par eux-mêmes. Au détri­ment, donc, de notre sou­ve­rai­ne­té.

N’ou­blions pas que des pen­sées ont pré­cé­dé la machine.

Des pen­sées d’a­bord issues des entre­prises qui les conçoivent et dont les objec­tifs sont avant tout liés à leur recherche de relais de « crois­sance » et à la « valo­ri­sa­tion » de leur capi­tal. Mais quelles pen­sées ont pré­cé­dé ces nou­velles tech­no­lo­gies concer­nant l’ex­trac­tion mas­sive de mine­rais, les carences en eau potable ou le réchauf­fe­ment cli­ma­tique ? L’usage inten­sif, et crois­sant de ces tech­no­lo­gies condamne les res­sources natu­relles à ne plus être des biens com­muns mais des objets de convoi­tise dont l’ex­ploi­ta­tion atteint l’in­té­gri­té et la digni­té humaine. Ne pour­rait-on pas exi­ger que ces réflexions soient menées en amont du déploie­ment de ces inno­va­tions ?

Quand il n’y a pas d’an­ti­ci­pa­tion col­lec­tive et démo­cra­tique, l’en­tre­prise ne devient-elle pas, par défaut, un État en amont de l’É­tat ? l’IA verte (moins cou­teuse en éner­gie), lais­sant pour­tant espé­rer de par son nom, solu­tion­ner une par­tie du pro­blème, n’est pas satis­fai­sante. Car la consom­ma­tion éner­gé­tique explose à chaque nou­velle géné­ra­tion de modèles ce qui contre­dit fron­ta­le­ment les pro­messes de sobrié­té. En effet un maté­riel plus effi­cace incite à d’avantage d’utilisation, aug­men­tant l’usure mal­gré une pro­messe d’impact moins éle­vée. Alors quelles pen­sées accom­pa­gne­ront la machine ?

Quelles pen­sées pour celles et ceux qui doivent com­po­ser avec ? La place de l’humain face à son tra­vail avec IA, doit-elle du fait de sa faible consi­dé­ra­tion être sys­té­ma­ti­que­ment can­ton­née à un rap­port de force de plus en plus cli­vant ?

Ce que nous appe­lons de nos vœux c’est une sou­ve­rai­ne­té cri­tique et éthique, au ser­vice du vivant. Une démo­cra­tie conti­nue, qui ne s’appuie pas uni­que­ment sur les pro­grammes de nos repré­sen­tants, mais qui fasse le lien entre concer­ta­tion publique et prise de déci­sion. Nous ne vou­lons plus que les citoyens soient pas­sifs au regard des déci­sions publiques, tri­bu­taire le plus sou­vent d’un choix par défaut qui le lie de façon déter­mi­niste et vic­ti­maire au moment d’une élec­tion.

Nous sou­hai­tons que les citoyens fran­çais soient un col­lec­tif por­teur du sens de leur sou­ve­rai­ne­té. Un sens garant de l’é­co­lo­gie, pré­ser­vant le droit des peuples à faire socié­té au-delà du pro­fit. Car sans cela, nous ris­quons une civi­li­sa­tion où la machine pense pour nous, tan­dis que nous oublions com­ment pen­ser.

Nous sou­hai­tons une IA, consciente de son impact qui sou­tienne :

• La recon­ver­sion pro­fes­sion­nelle face aux pertes d’emplois,
• La décar­bo­na­tions et la recherche sur les IA sobres,
• La lutte proac­tive contre la dés­in­for­ma­tion géné­rée par l’IA et la cyber­sé­cu­ri­té,
• Le déve­lop­pe­ment de modèle open source indé­pen­dant, non contrô­lés par des enti­tés étran­gères.

À cet égard, si la sou­ve­rai­ne­té numé­rique semble dif­fi­cile à obte­nir à l’é­chelle natio­nale, elle semble envi­sa­geable à l’é­chelle euro­péenne. Ce com­bat doit nous unir. La concur­rence entre États euro­péens ne semble-t-elle pas, à ce sujet, avoir prou­vé son manque de per­ti­nence ? En effet chaque pays tente de déve­lop­per sa propre puce ou son propre modèle, et se fai­sant nous nous affai­blis­sons mutuel­le­ment face aux géants amé­ri­cains et chi­nois, en gas­pillant des res­sources pré­cieuses dans des pro­jets redon­dants au lieu de construire une puis­sance com­mune.

Ne serait-il pas sou­hai­table de déve­lop­per une IA et une infra­struc­ture com­plète (des puces aux appli­ca­tions, des data cen­ter aux modèles mathé­ma­tiques) visant à répondre aux besoins des peuples, des indus­tries et des États, plu­tôt qu’à la conquête de parts de mar­ché ? Cette consi­dé­ra­tion exi­ge­rait peut-être un finan­ce­ment public mas­sif et pérenne, mutua­li­sée au niveau euro­péen, pour la créa­tion d’un espace numé­rique com­mun qui serait intrin­sè­que­ment conçu pour évi­ter toute ten­ta­tive de pri­va­ti­sa­tion.

Jean DEVILLE