Mise à jour de la base de données, veuillez patienter...

Lectures : Réseaux de domestication et complexification artificielle de la communication

Réseaux sociaux

Petit rappel pour toutes les personnes qui mettent en évidence un peu partout leurs profils X/Twitter et LinkedIn. Ces réseaux sont fermés. Toute personne qui n’a pas de compte ne pourra pas accéder à votre profil. Et si elle en a un, mais que, pour une raison ou une autre, elle n’est pas connectée.

Facebook et Instagram ont fait pareil dans le passé, mais permettent, pour le moment, d’avoir accès à certaines informations restreintes sur votre profil (à condition d’arriver à passer tous les bandeaux tentant de vous forcer à vous connecter et de vous fourguer des cookies).

C’est spécialement inquiétant pour tous ces professionnels qui tentent à tout prix de mettre en avant leur profil LinkedIn. Ou tous ces candidats aux prochaines élections.

Vous croyez vous promouvoir grâce à ces réseaux ?

C’est tout le contraire. Vous faites la promotion de ces produits. Et vous perdez certainement beaucoup de personnes en cours de route (car, non, tout le monde n’a pas un compte et ceux qui en ont ne sont pas nécessairement connectés dessus sur tous les appareils qu’ils utilisent). Ces réseaux sont un mensonge !

• Le mensonge des réseaux sociaux (ploum.net)

Comme le dit très bien Seirdy, le but de ces réseaux est de domestiquer les utilisateurs (ici, il parle de Whatsapp, mais c’est pareil)

• WhatsApp and the domestication of users (seirdy.one)

Si vous cherchez une certaine visibilité, la moindre des choses est une page web minimale accessible à tou·te·s. Ou, à défaut, un compte Mastodon. Car, contrairement à tous les réseaux propriétaires susnommés, on peut parcourir un profil Mastodon sans avoir de compte (ni même sans n’avoir jamais entendu parler de Mastodon).

ChatGPT et Ploum.net

Un page perso, c’est un truc dont le sociologue des médias Grégoire Lits comprend très bien l’importance.Inspiré par mon blog, mais ne sachant pas coder en python, Grégoire Lits a demandé à ChatGPT de lui fournir le code.

• Sur le code qui génère ce site / Est-il encore utile d'apprendre à coder ? (gregoirelits.eu)

L’expérience est très intéressante et me renforce dans ma conviction que les IA sont des outils qui ont leur utilité, mais ne sont pas "révolutionnaires". Parce que tout ce que Grégoire a fait, il aurait pu le faire sans ChatGPT, mais en utilisant des forums et des manuels. Il aurait peut-être pris plus de temps pour sa solution initiale (je dis "peut-être" car il déclare avoir passé "4h" dessus, mais je sais d’expérience que le temps de travail effectif peut changer d’un ordre de grandeur selon la manière dont on le mesure et que Grégoire maitrisait déjà beaucoup de choses).

L’effort se mesure également sur le long terme : j’ai personnellement passé beaucoup du temps au début à produire ce qui génère ce blog (en fait majoritairement pour la production d’emails), mais, désormais, lorsque je dois modifier quelque chose, cela me prend littéralement quelques minutes. Et je ne dois pas faire de mises à jour, m’adapter à une quelconque mise à jour sous-jacente. J’ai déjà rentabilisé au centuple le temps passé par rapport à un Wordpress.

• La fin d’un blog et la dernière version de ploum.net (ploum.net)

Grégoire est très conscient de ce qu’il fait et ce qui rend sa démarche hyper intéressante c’est qu’il ne l’a pas vu comme une manière d’être productif, mais une manière de se former. Il utilise ChatGPT pour apprendre à ne plus dépendre de ChatGPT. C’est pour moi un excellent usage de ce genre d’outils.

Cela semble plus rapide et personnalisé que l’utilisation des forums comme je le faisais il y a 25 ans. Par contre, on perd le côté humain d’apprendre à se connaitre l’un l’autre, de découvrir des trucs inédits par sérendipité et de se rencontrer pour discuter en vrai. Mais on va dire qu’on avait déjà perdu ce côté "communautaire" lorsque les forums ont été remplacés par des géants comme StackOverFlow.

La question primordiale c’est que, comme Grégoire l’indique, il ne comprend pas le code qui fait tourner son site. Ce code pourrait potentiellement effectuer des actions inutiles, voire nocives. Ce n’est pas nouveau : copier/coller du code de StackOverFlow comporte les mêmes risques.

Et c’est là tout le paradoxe des AIs : auditer du code est beaucoup beaucoup plus difficile que d’en écrire du neuf. C’était moins fatigant pour moi de construire un générateur de site statique à partir de rien que d’apprendre à utiliser un existant !

Fatigue attentionnelle

C’est ce qu’on appelle « la fatigue attentionelle ». Un humain peut être concentré sur sa tâche pendant des heures s’il fait quelque chose. Mais s’il doit uniquement être attentif sans rien faire, son esprit va très vite s’endormir. C’est l’équivalent de compter les moutons pour s’endormir.

D’ailleurs, nous le savons tous. Préférez-vous être dans un taxi traditionnel, avec un chauffeur qui conduit ou bien un taxi entièrement automatique, mais, comme il n’est pas entièrement sûr, il y a quand même un chauffeur qui ne fait rien, qui se contente de surveiller le pilote automatique du coin de l’œil tout en jouant avec son smartphone ?

C’est une critique de l’intelligence artificielle dont on ne parle pas assez : si ce qui est produit automatiquement par un algorithme doit être vérifié par un humain, cela coûte très souvent plus cher que de le faire produire par un humain directement. Les IA des fameux magasins physiques Amazon qui permettaient de détecter tout ce que vous mettiez dans votre sac pour vous permettre de sortir sans passer par une caisse étaient en fait… des centaines de travailleurs en Inde scrutant les caméras de surveillance. La blague à la mode est de dire que « IA » est l’acronyme de « Indiens Absents ».

Pareil pour ce service expérimental de taxis sans-conducteur aux États-Unis. Les voitures étaient, en cas d’urgence, pilotées à distance. Les calculs ont montré qu’au total, la firme employait en moyenne 1,6 chauffeur par voiture. L’IA ne détruit pas l’emploi : elle ne fait que les rendre encore plus merdiques.

Inclassable

Car, surtout sur le Web, il a toujours fallu faire attention à ce qu’on lisait. Les blagues potaches étaient la norme, parfois avec un très haut degré de réalisme. Je ne résiste pas à vous partager cette récente trouvaille : le fromage à base de lait de baleine.

• Deep Sea Dairy (www.deepseadairy.com)

C’est particulièrement réaliste et bien foutu. Qu’en pense Paul Watson ?

Le prix de notre inculture

Depuis quelques années, mon objectif n’est pas de découvrir de nouveaux outils informatiques, mais, au contraire, d’en utiliser le moins possible, mais de les utiliser à fond. Avec Neovim comme éditeur, les outils Unix, Pandoc et des scripts Python ou Bash et Git comme gestionnaire, je fais absolument tout ce dont j’ai besoin d’une manière incroyablement efficace. Durant les examens de mes étudiants, je me suis surpris à faire un simple fichier markdown avec mes remarques et à calculer simplement les moyennes en passant le fichier à travers quelques pipes Unix. Bref, à faire de l’Excel sans même y penser.

Peut-être que mes besoins sont minimes ? Pas nécessairement. Adam Drake a démontré qu’utiliser de relativement simples pipelines Unix pouvait être 100x plus rapide pour faire du traitement massif de données que d’utiliser les outils dédiés.

• Command-line Tools can be 235x Faster than your Hadoop Cluster (adamdrake.com)

C’est comme les AI : toutes les solutions que l’on nous vend ne permettent rien de révolutionnaire. Elles font juste pire que les anciennes solutions tout en se prétendant plus faciles à court terme (ce qui n’est même pas toujours vrai).

Ce que nous achetons très cher, c’est essentiellement notre inculture informatique.

Plutôt que de sauter de pages web en pages web à la recherche de la dernière nouveauté révolutionnaire, on devrait passer plus de temps à s’asseoir pour lire un livre dont la qualité est validée par 10, 20 ou 100 ans d’existence. Oui, même en informatique, on apprend plus en lisant des livres qui ont 20 ans qu’en testant toutes les nouveautés à la mode.

Fatigue oculaire

D’ailleurs, le livre nous reposerait les yeux. On savait déjà que les réseaux sociaux bouffent votre temps, vous font détruire la planète à cause de la publicité, vous rendent dépressifs. Mais, en plus, ils sont mauvais pour les yeux. Surtout quand il faut scroller.

• Continuous Social Media Scrolling Negatively Impacts Eye Movement (www.optometryadvisor.com)

J’avoue que je ne supporte pas le scroll. J’ai un téléphone eink et, si je dois lire un site dessus, j’utilise le navigateur einkbro qui permet de naviguer page par page. C’est marrant parce que, au départ, cette fonctionnalité sert à contourner les déficiences techniques de la technologie eink qui est trop lente pour permettre le scroll. Mais, en réalité, c’est bien plus agréable.

• Einkbro on F-Droid

Et sur mon laptop, je n’arrive plus à lire quoi que ce soit en dehors de… less. Une commande Unix qui a presque mon âge (et qui est toujours développée). Comment lire le web dans less ? Tout simplement avec Offpunk, qui m’affiche un texte bien centré. Quand j’arrive au bout de l’écran, j’appuie sur la barre espace pour passer à la page suivante.

• Offpunk, An offline first command-line browser for the smolnet

Le truc qui est intéressant avec Offpunk, c’est de constater que la majorité du code sert à tenter de retrouver le texte original que l’auteur a produit avant que cela ne soit transformé en une bouillie vaguement apparentée à du HTML. Offpunk est donc une sorte d’anti-logiciel, de démerdificitateur du web.

C’est le même principe que le mode "lecture" de votre navigateur ou votre bloqueur de pub : essayer de retrouver l’information originale au milieu de toute la merde rajoutée par les intermédiaires.

Cette expérience me rend particulièrement dubitatif au sujet de l’utilité des générateurs de texte "intelligents": les deux cas d’usage les plus cités sont, premièrement, la génération d’un texte sur un sujet à partir d’une très courte description (un « prompt ») et, deuxièmement, la faculté de résumer un texte trop long pour en tirer l’information essentielle.

Vous voyez où je veux en venir…

Le Web, à la base, c’est « Produire du texte -> Protocole HTTP -> Lire le texte ».

C’est ensuite devenu : « Produire du texte -> Merdifier avec du JS et des pubs -> protocole HTTP -> démerdifier avec adblocks et mode lecture -> lire le texte ».

Désormais, on est entré dans la phase « Avoir une idée de texte -> IA pour générer du contenu -> merdifier avec du JS et des pubs -> protocole HTTP -> démerdifier avec adblocks et mode lecture -> IA pour résumé et trouver l’idée originale -> espérer que le résultat est l’intention initiale de l’auteur ».

C’est peut-être pour cela que j’aime tant bloguer et lire des blogs depuis 20 ans. J’ai l’impression d’échanger des idées directement d’humain à humain, sans intermédiaire. Merci à vous pour cet échange permanent et tellement enrichissant !

Lectures : de la distraction à la destruction (de la planète)

Art, amusement et distraction

C’est marrant, je me demandais pourquoi j’entendais du Michael Jackson partout, depuis les magasins de ma ville aux vestiaires de la piscine. La réponse est simple : Sony vient d’acquérir tout le catalogue pour 1,2 milliard de dollars. Un artiste mort, c’est quand même plus rentable qu’un jeune. En France, on fait pareil avec Johnny Hallyday. Comme quoi, quand ça l’arrange, l’industrie est capable de faire du recyclage.

J’ai appris cela dans cet excellent article de Ted Gioia (The Honest Broker) qui revient sur la différence entre l’art et l’amusement (l’entertainment) et sur le fait que si l’art est menacé par l’entertainment, ce dernier est lui-même menacé par le business de… la distraction.

• The State of the Culture, 2024 (www.honest-broker.com)

Les gens ne paient plus pour l’art, car ils préfèrent l’amusement facile. Mais ils n’ont plus le temps pour l’amusement facile, remplacé par de la distraction distillée, de manière infinie, par touches de quelques secondes. Avec le sentiment de « C’est juste quelques secondes, j’arrête quand je veux » et, au bout de la journée, des heures perdues à ne strictement rien faire. Je comparais d’ailleurs cette propension à celle de s’empiffrer de sucre industriel.

• Pour une alimentation intellectuelle saine et variée (ploum.net)

Et, comme le sucre, l’énorme problème de la distraction, c’est qu’elle est addictive.

Pour les créateurs et les artistes, il est impossible de lutter. C’est un fait. Mais il est très difficile de l’accepter. De ne pas sombrer dans la mouvance en tentant de créer des contenus de plus en plus courts, formatés sur ce qui est à la mode. L’artiste lui-même devient addict à son compteur de likes, aux statistiques de son site web. Il est distrait et crée lui-même de la distraction.

Ces 20 années de blog m’ont appris que je finissais toujours par regretter d’avoir cédé aux appels de la mode, des nouvelles tendances, des plateformes propriétaire, de l’autopromotion.

Cela me demande une certaine discipline de ne pas me demander pourquoi mon compteur de followers Mastodon a soudainement fait un bond ou un creux. De ne pas tenter de discuter ou, pire, de faire une blague pathétique de type « J’espère te revoir bientôt » quand quelqu’un m’écrit pour me dire qu’il n’arrive pas à se désabonner de ma mailing-liste.

Je suis addict à la reconnaissance. J’adore recevoir vos emails, dédicacer des livres. Mais, et cela me sauve peut-être, je ne supporte pas la « fausse reconnaissance ». Je veux être reconnu pour mon travail, pas pour avoir fait des cumulets à la télévision (je parle d’expérience). Il m’a fallu 20 ans pour comprendre que la meilleure façon d’être reconnu pour mon travail était… de travailler et non chercher la reconnaissance.

Vingt ans que j’écris publiquement. Vingt années qui ont été nécessaires pour préparer les vingt prochaines, pour me permettre de découvrir ce que j’ai besoin écrire plutôt que de tenter de deviner ce qu’un hypothétique public « veut ». Vingt ans pour apprendre que voir se construire son œuvre sur le long terme m’apporte plus de dopamine que tous les likes instantanés.

• Chapitre 8 : l’artiste déconnecté (ploum.net)

Dédicaces et rencontres

Puisse qu’on parle dédicaces, justement. Je serai à Paris ce samedi 13 avril. D’abord au Festival du livre de Paris de 13h30 à 15h sur le stand « Livre Suisse » (B21).

• Ploum au Festival du Livre de Paris (www.festivaldulivredeparis.fr)

Et puis, à partir de 16h, avec Gee à la librairie « À Livr’Ouvert », boulevard Voltaire.

• Samedi 13 avril - Présentation des éditions PVH avec Gee et Ploum (www.alivrouvert.fr)

Mon éditeur, PVH, offre l’apéro avec des spécialités de Neuchâtel ! Je dédicacerai des exemplaires de Printeurs et de Stagiaire au spatioport Omega 3000. En attendant le prochain, prévu cette année…

Physique quantique et Relativité

Dans Printeurs, j’imaginais un système de communications instantanées traversant les cages de Faraday grâce au « quantum entanglement ». Du nom de cette propriété quantique qui fait que deux particules quantiques sont liées et partagent le même état, même à distance.

Pas de bol, ce n’est théoriquement pas possible.

• The Real Reasons Quantum Entanglement Doesn't Allow Faster-Than-Light Communication (www.forbes.com)

En fait, aller plus vite que la lumière remet en cause le principe même de causalité. Ce qui est un petit peu ennuyant.

• What Does a Faster-Than-Light Object Look Like? (scienceblogs.com)

Mais Printeurs reste très bien, lisez-le ! SyFantasy en dit que c’est « Un brin plus violent et anticapitaliste que le Neuromancien de Gibson ». J’en suis très fier.

• Printeurs : Neuromancien en impression 3D chez PVH Editions (syfantasy.fr)

Parodie

En parlant de Suisse et de PVH, Julien Hirt débarque dans la collection Ludomire et devient, par la même occasion, mon collègue. Je viens de dévorer son « Carcinopolis » et j’ai adoré cette ambiance sombre, presque lovercraftienne, d’une ville dont les bâtiments sont des cellules cancéreuses. Julien semble détester la cigarette presque autant que moi.

• Carcinopolis chez pvh-editions (commandez-le chez votre libraire !)

Julien tient également un blog où il analyse les ressorts de la théorie du récit, un sujet qui me passionne. Bon, sinon, il a aussi pondu un excellent foutage de gueule des récits de Fantasy.

• Les 10 pires clichés de la fantasy (julienhirtauteur.com)

J’ai éclaté de rire avec le coup de l’épée du destin achetée en solde chez Décathlon. Ça m’a rappelé que j’avais fait un truc similaire sur les chasses au trésor. Il y a… 17 ans. Cela ne nous rajeunit pas !

• Les 10 commandements de la chasse au trésor (ploum.net)

L’emprisonnement Discord

Pour une raison que je n’explique pas, tout le monde semble préférer des salons de discussions propriétaires. Alors que les solutions libres existent, certaines depuis des décennies : IRC, MUC XMPP ou, plus récent, Matrix, Slack reste la norme en entreprise et Discord pour tout le reste, y compris les projets Open Source.

Pourtant, ce sont de belles saloperies. Slack permet à votre employeur d’avoir accès à tout votre historique de conversation, même privé. Discord, dans ses conditions d’utilisation, stipule que vous abandonnez tout droit de poursuivre Discord en justice en cas de conflit. Légalement, ils sont obligés de vous laisser le choix de refuser cette clause, ce qui doit être fait par email. À chaque fois que les conditions d’utilisation sont modifiées par Discord.

• Thrisha Lynn reminds everyone to opt-out from section 16 of Discord’s TOS

Et si vous mettiez un peu de pression dans vos communautés Discord/Slack pour migrer vers une alternative libre et décentralisée ? Par exemple Matrix ! Où l’email… J’adore l’email !

• Email, mon amour ! (ploum.net)

L’email et le texte

Un email, c’est la plupart du temps un simple texte. Alors, pourquoi se casser la tête à en faire du HTML ? Pire : les mails en HTML sont dangereux, car ils peuvent se modifier lorsque vous les faites suivre.

• Kobold letters - Lutra Security (lutrasecurity.com)

Utilisez le texte brut dans vos emails !

• Use plaintext email (useplaintext.email)

Pour ceux qui, comme moi, n’aiment pas les mails HTML, je rappelle que vous pouvez recevoir mes billets en texte brut en vous abonnant sur la mailing-liste dédiée :

• Billets Ploum.net en français (txt only, no html)
• English posts on Ploum.net (txt only, no html)

C’est également top pour votre vie privée et pour mon addiction à la reconnaissance, car je n’ai aucune visibilité sur les abonnés (pas même le nombre). Mais, en toute honnêteté, j’ai l’impression que les amateurs d’emails en texte brut sont également les personnes les plus susceptibles de préférer le RSS voire même Gemini. Allez savoir pourquoi…

Les mensonges d’Apple

Le principe de la publicité, c’est de mentir. Lorsqu’Apple prétend protéger votre vie privée, c’est faux. Oh, bien sûr, ils ont décidé de partager moins d’infos avec Meta. Mais ils se font payer l’équivalent d’un Twitter chaque année pour envoyer vos données vers Google. Et puis, bien entendu, ils exploitent eux-mêmes vos données.

Ce n’est pas moi qui le dis, mais une étude qui a tenté de mesurer l’impact des paramètres de protection de vie privée sur les produits Apple.

• Keeping your data from Apple is harder than expected (www.aalto.fi)

L’humain est paradoxal. Il veut faire comme tout le monde, faire partie du groupe. Mais il veut également avoir une identité propre, être différent. C’est un paradoxe typique de l’adolescence, mais, visiblement, tout le monde n’en sort pas.

Le génie d’Apple est d’avoir réussi à convaincre plusieurs milliards de clients (qui a dit « pigeons » ?) qu’Apple était un truc de rebelle, un truc unique, différent. Mais que tout le monde l’utilisait. Donc qu’en utilisant Apple, on était un rebelle comme les autres.

Si ça parait complètement stupide, c’est parce que ça l’est. C’est le principe d’une religion : convaincre les gens d’un truc tellement stupide qu’ils n’oseront jamais s’avouer s’être fait avoir et s’enfonceront. J’appelle cela « Le coût de la conviction ».

• Le coût de la conviction (ploum.net)

Étant donné son budget, Apple peut payer d’excellents ingénieurs qui produisent parfois d’excellentes choses, il faut le reconnaitre. Dans d’autres cas, on sent que c’est le département marketing qui a pris le dessus.

Pendant quelques années, j’ai utilisé un mac pour mon travail. Je me suis prêté honnêtement au jeu, je me suis immergé dans le système MacOS. C’est certes très joli. Quand je suis revenu sous Debian et Ubuntu, j’ai réalisé à quel point j’avais inconsciemment accepté de me compliquer la vie ou d’acheter un petit logiciel pour faire des trucs qui prennent une ligne de commande sous Linux. Mais, je le répète, c’était joli. Les produits Apple sont littéralement pensés pour faire cool dans une publicité.

Censure

Cette allégeance à Apple, Google, Discord et d’autres est ce que Yanis Varoufakis appelle le capitalisme féodal. En tant que paysan, on prête allégeance à un seigneur (voire plusieurs). On promet d’obéir à leurs lois et, en échange, ils nous protègent et nous permettent d’utiliser leurs services. C’est bien, non ? Et puis, ils font ça pour notre bien. Ceux qui disent que, par exemple, Facebook va censurer ce qui ne lui plait pas sont des conspirationnistes qui exagèrent.

Sauf que non. Facebook censure désormais les médias qui critiquent Méta. Ils ont également censuré tout ce qui parle de Mastodon. Ah oui, au fait, ils censurent également ce qui parle du réchauffement climatique parce que c’est sujet à « controverse ».

• Facebook is Censoring Stories about Climate Change and Illegal Raid in Marion, Kansas (changelog.complete.org)

Au fait, on dit « réchauffement climatique », pas « changement climatique ». Le mot « global warming » était la norme jusqu’à ce que l’industrie du pétrole paie des spécialistes en propagande pour trouver une alternative qui serait moins effrayante. Ils ont pondu « climate change » qui donne l’impression que ce n’est pas dramatique et que c’est un processus naturel. Ils ont ensuite lobbyé de manière intense pour que le mot « global warming » disparaisse du discours officiel.

Ils ont réussi.

Un peu comme ont réussi ceux qui, malgré les avertissements de Richard Stallman, ont imposé qu’on dise « open source » au lieu de « logiciel libre ».

• Ce que l’écologie peut apprendre du logiciel libre (ploum.net)

Les intérêts financiers tuent la planète à coup de modifications de notre vocabulaire.

L’obsolescence programmée d’Android

À lire sur ce sujet, une longue discussion avec Agnès Crepet, responsable longévité chez Fairphone. Je préviens les puristes, tout est en franglais (ce qui est compréhensible vu qu’elle bosse en anglais aux Pays-Bas), mais Walid a fait un travail de dingue pour retranscrire en expliquant les mots problématiques, c’est super intéressant et cela explique beaucoup des difficultés de Fairphone. Un truc m’a frappé : la principale source d’obsolescence d’un Fairphone est la non-mise à jour des firmwares propriétaires par les fabricants.

Comme c’est propriétaire, on ne peut rien faire. Mais comme on met à jour la version d’Android, l’ancien firmware ne fonctionne plus ou n’est plus considéré comme sécurisé par le noyau.

• Agnes Crepet - Head of software longevity & IT chez FAIRPHONE (www.projets-libres.org)

Un exemple de plus pour démontrer en quoi le code propriétaire est fondamentalement néfaste.

Je n’avais jamais compris pourquoi les fabricants de matériel voulaient garder secrets leurs micrologiciels. Ils ne gagnent de toute façon pas d’argent sur le code, non ?

Mais si le code est open source, le matériel dure plus longtemps. Et donc on en vend moins. Le code propriétaire est donc une merdification volontaire pour polluer plus. Soyez écolos, exigez du logiciel libre !

Le texte est également l’occasion de prendre un fameux coup de vieux. Agnès est en effet une co-fondatrice de la (très chouette) conférence Mix-IT, à Lyon. Elle m’avait invité à donner la keynote d’ouverture lors de l’édition de… 2014. Putain, 10 ans !

About Freedom and Power

Freedom is the right to do whatever you want. Power is the right to force others to do what you want. Power is, by definition, being able to restrict others’ freedoms.

Copyleft is a tool that gives you freedom but no power.

Permissive licenses give freedom and power, allowing already powerful people to restrict the freedoms of others.

That’s why powerful people (and those dreaming of being powerful) don’t like copyleft. When you are accustomed to the privilege of power, freedom of others sounds like oppression.

Don’t listen to the powerful people. They will tell you that you need to protect powers just in case you become powerful yourself. They will tell you that you need to be against taxation just in case you become rich yourself. That you are a "temporary embarrassed millionaire". Similarly, they’ve told you to use MIT/BSD license because you could later become a "billionaire proprietary software tycoon" with your lines of code.

That’s, of course, a lie. They already are the barons. They want to use your own lines of code to restrict your own freedoms. We should not admire powerful people but fight them.

You may dream of power but all you need is freedom.

We need to protect freedom, not power. We need to respect humans, not bosses nor commercial interests.

Offer a little freedom: use copyleft licenses!

Une bulle d’intelligence artificielle et de stupidité naturelle

La technologie derrière ChatGPT, Dall-E et autres n’est pas révolutionnaire, elle est spectaculaire. C’est très différent. Et, comme souvent, le spectaculaire attire une attention démesurée du grand public par rapport aux capacités réelles de la technologie. C’est ce qu’on appelle « une bulle ».

Et une bulle, ça finit toujours par imploser.

Mais en vrai, c’est quoi l’intelligence artificielle ?

Rappelons qu’un logiciel est un ensemble d’instructions données à un ordinateur par un programmeur pour donner un résultat (un « output ») basé sur des paramètres modifiables (« l’input »). Un programme « classique » est donc un programme qui donnera toujours un résultat prévisible. Je vous expliquais d’ailleurs cela en détail dans un article précédent.

• L’histoire d’un bit (ploum.net)

Ce que nous appelons « intelligence artificielle » est un ensemble de techniques, parfois très diverses, pour qu’un logiciel puisse être « entrainé ». Au lieu de définir exactement comment va fonctionner le logiciel, on va lui fournir des « données d’apprentissage » pour qu’il en tire une forme de moyenne statistique. Exemple : lui montrer des photos de terroristes et des photos de gens innocents pour, ensuite, tenter de voir s’il détecte des terroristes inconnus parmi une foule sur laquelle on n’a aucune information.

Mais qui est responsable si le programme développé de cette manière désigne un innocent comme terroriste et entraine son élimination par un drone ? Le programmeur qui a développé l’algorithme ? Il n’avait pas conscience du cadre d’utilisation, il a juste fait un logiciel pour différencier deux types de personnes sur base de photos. Celui qui a sélectionné les données et qui a « oublié » d’inclure des barbus parmi les innocents ? Celui qui, à la base de tout ça, a imaginé qu’un terroriste était reconnaissable à son visage ?

La fameuse intelligence artificielle, ce n’est que ça : des algorithmes statistiques sont très utiles dans certains cas très spécifiques à condition d’être très surveillés. Mais qui diluent toute responsabilité en cas d’erreur.

Un algo de type ChatGPT ne fait pas autre chose : pour simplifier à outrance, il prend à chaque fois le texte de la conversation et tente de prédire quel mot a la plus grande probabilité de suivre. Il prend littéralement tous les mots de son dictionnaire, les rajoute à la fin de la phrase et évalue un score pour le texte résultant basé sur la moyenne statistique calculée durant son apprentissage.

Si je lui demande :

Ploum: Quelle est la couleur d’un schtroumpf ?

Il va voir que, dans toutes ses données d’apprentissage, la suite de mot « Quelle est la couleur de X ? La couleur de X est » est plus probable que « Quelle est la couleur de X ? Banane volante à pistons ». Du coup, il répond :

IA: La couleur de…

Ben oui, parce que ça fonctionne aussi pour la couleur d’un marsupilami ou de n’importe quoi d’autre. C’est une des raisons qui fait que ChatGPT ne vous répond pas platement « bleu » comme n’importe quel humain le fait. Parce que dans ses données d’apprentissage apparait régulièrement qu’une réponse commence souvent en reformulant sa question.

IA: La couleur d’un schtroumpf est…

Cette reformulation reprend des parties de la phrase. Ce n’est pas du tout évident, mais cela donne l’impression que ChatGPT comprend ce qu’il dit. C’est faux. C’est simplement le plus probable parmi les milliards de possibilités de la langue française (ou de la langue schtroumpf).

IA: La couleur d’un schtroumpf est bleue

Parce que, dans tous les textes du corpus où apparait le mot « schtroumpf », c’est le mot « bleu » qui revient le plus souvent et qui est souvent associé avec le mot « couleur ».

Évidemment, ce qui est le plus probable n’est pas toujours ce qui a le plus de sens. Les personnages générés par Dall-E ont, par exemple, souvent bien plus de doigts que nécessaire. Pour une raison toute simple : sur une image, la probabilité est très grande que ce qui est à côté d’un doigt soit un autre doigt. En fait, si vous me montriez une partie de photo représentant un doigt en me demandant de parier sur ce qu’il y a juste à côté, j’aurais tout intérêt à répondre : « un autre doigt ! ». Ce n’est pas une hallucination, c’est un résultat entièrement logique, statistique !

Des résultats techniques spectaculaires…

Nonobstant ce que nous appelons des « hallucinations » (un mot choisi à dessein pour anthropomorphiser et rendre encore plus attirantes et mystiques les IA), les résultats sont très impressionnants, spectaculaires, imprévus. C’est un véritable show qui nous est offert dont les hallucinations font intégralement partie.

À la base de tous les ChatGPT et consorts, on trouve une nouvelle méthode de programmation appelée « Transformers » (oui, comme les robots de mon enfance) inventée par 8 types chez Google (qui sont, depuis, tous partis pour fonder leur startup AI sauf un qui a fondé une startup blockchain).

• [1706.03762] Attention Is All You Need (arxiv.org)

Le papier décrivant la méthode est devenu un « landmark paper ». Pour les spécialistes, il est bouleversant, car il introduit de nouvelles techniques, de nouvelles perspectives. Mais, pour le grand public, il n’est finalement qu’une énième optimisation (impressionnante, je le répète) de méthodes de machine learning qui existent et s’améliorent depuis 40 ans. La grosse révolution, outre une amélioration significative des performances générales, c’est d’avoir permis une mise en parallèle des calculs. Du coup, plutôt que de devoir sans cesse optimiser des algorithmes ou créer des superordinateurs, on peut se contenter de mettre beaucoup d’ordinateurs en parallèle. Beaucoup comme dans « beaucoup beaucoup beaucoup ». Et donc multiplier les performances des algorithmes existants. Ce qui est très cool mais, selon ma définition, pas vraiment « révolutionnaire ».

• 8 Google Employees Invented Modern AI. Here’s the Inside Story (www.wired.com), visited on Mon Apr 1 20:51:01 2024

Ces améliorations de performances ont permis d’entrainer les algorithmes sur des quantités astronomiques de données. De l’ordre de « tout ce qui nous tombe sous la main ». Et de créer des produits attractifs pour le grand public (ChatGPT, Dall-E, …) alors qu’à la base, l’algorithme visait surtout à automatiser les traductions.

Un enthousiasme naïf qui l’est encore plus !

Si ces nouvelles techniques sont spectaculaires, la vitesse avec laquelle les investisseurs et les entreprises se sont engouffrées dans le buzz l’est encore plus. Comme le dit très bien Cory Doctorow, de nombreuses boites AI se sont créées avec des technologies incapables de remplacer un travailleur humain, mais avec une équipe marketing capable de convaincre votre patron que c’est bien le cas.

Et chaque patron découvrant ChatGPT se sent soudain dans l’urgence d’investir dans l’AI, de peur que le concurrent le fasse avant lui. C’est parfois très con un CEO. Surtout quand ça a peur de rater le coche.

Petit aparté : si vous apprenez l’existence d’une technologie à travers la presse généraliste, c’est trop tard. C’est que vous êtes le dernier couillon à en ignorer l’existence. Et c’est vous qui allez constituer la dernière couche de la pyramide de ponzi qu’est la bulle spéculative sur ce sujet. Bref, vous êtes le pigeon. Face à un enthousiasme exubérant dans un domaine qui n’est pas le vôtre et sur lequel vous arrivez sur le tard, il n’y a qu’une chose à faire : rien. Attendre que tout se tasse et tirer les leçons des échecs ou réussites des uns ou des autres.

Se jeter dans la bulle AI, c’est un peu comme aller voir Titanic en pariant qu’il ne va pas couler à la fin. D’ailleurs, ils sont déjà en train de se casser la gueule : les fournisseurs d’AI ont dépensé 50 milliards de dollars pour des pelles, pardon des puces Nvidia et ont fait… trois milliards de chiffre d’affaires. L’action Nvidia, elle, a vu sa valeur multipliée par 9 en 15 mois. Comme dit le proverbe « Pour s’enrichir durant une ruée vers l’or, vendez des pelles ! »

Tous les CEO qui ont investi dans l’AI commencent à se rendre compte que c’est, en fait, très compliqué ce machin, qu’il y a peu de résultats, qu’on ne peut pas faire confiance dans ces résultats et qu’ils ne dorment plus la nuit par peur que des données privées soient exposées par les AI ou qu’ils soient attaqués pour non-respect du copyright.

• When Will the GenAI Bubble Burst? (garymarcus.substack.com)

D’ailleurs, je vous alertais déjà l’année passée sur la problématique d’utiliser des datas privées pour entrainer une IA et sur le fait que, à un moment ou un autre, un petit malin arriverait à les faire ressortir. Ou, du moins, à faire croire qu’il les a ressorties, même si ce sont des hallucinations.

• Modern AI and the end of privacy (ploum.net)

La fin du film est encore plus prévisible qu’un Marvel du mois d’août : les boites IA commencent à couler.

• Stability AI reportedly ran out of cash to pay its AWS bills • The Register (sebsauvage.net)

La décadence et la chute

La technologie a beau être géniale, elle nécessite énormément d’électricité et coute un pognon de dingue. Et puis il faut l’entrainer sur le plus de données possible. C’est-à-dire sur tout ce qui a jamais été posté sur Internet auquel on a accès. Sauf que, ben… ce n’est pas suffisant. Surtout que les gens ne postent plus sur Internet, mais sur des plateformes privées avec lesquelles il faut signer des contrats pour avoir accès aux données.

• Feeding the Machine (winter)

Pour résumer, on assiste, comme d’habitude, à une belle bulle, une parfaite ruée vers l’or. Avec des vendeurs de pelles (Nvidia) et des vendeurs de mines (Reddit, Facebook et tous ceux qui ont les données). Les mineurs vont, pour la plupart, faire faillite. Toute bulle finit par imploser. La seule question est de savoir si ce que la bulle laissera comme débris sera utile (comme l’ont été les infrastructures réseau financées pendant la bulle du web en 2000) ou s’il ne restera que ruines et destruction (comme la bulle des subprimes en 2008).

Ces dernières sont les pires bulles : elles détruisent activement une infrastructure existante. Exactement ce que la bulle AI est en train de faire avec le web en le merdifiant au-delà de tout espoir de sauver quoi que ce soit. Et en pourrissant toutes les données avec lesquelles s’entraineront les prochaines générations AI.

La bulle actuelle est peut-être en train d’utiliser la connaissance accumulée pendant des décennies pour la diluer irrémédiablement dans sa propre merde, détruisant, en quelques mois, le travail de milliers de chercheurs pour les décennies à venir. Car, dans dix ans, comment pourra-t-on créer des jeux de données importants dont on soit sûrs qu’ils ne contiennent pas de données générées par d’autres algorithmes ?

• Drowning in AI Generated Garbage : the silent war we are fighting (ploum.net)

Finalement, l’AI ne fait que répéter, en vitesse accélérée, ce que le consuméro-capitalisme inspiré d’Ayn Rand applique à toute la planète depuis Thatcher et Reagan : promettre un futur incroyable en détruisant le présent pour en revendre les décombres dix fois le prix, ne léguant finalement que des cadavres, des ruines fumantes, des déserts de déchets et un air irrespirable.

Je me pose cette simple question : et maintenant ?

On a ChatGPT, on a Dall-E. On ne peut pas leur donner plus de données d’apprentissage. On ne peut pas leur donner plus d’électricité ni plus d’ordinateurs. Les augmentations de performance purement algorithmique sont incroyablement rares, difficiles et imprévisibles. Du coup, on fait quoi avec nos bots de discussion qui spamment tous le web ? On rend les codeurs plus rapides avec Github Copilot ? Super, on va pondre encore plus de code que personne ne comprend, dont personne n’a la responsabilité. Mais pourquoi ?

• Keynote Touraine Tech 2023 : Pourquoi ? (ploum.net)

Beaucoup pensent que ChatGPT est l’aube d’une révolution, d’un nouveau paradigme. Je pense, au contraire, qu’il représente la fin, l’aboutissement technologique à la fois des techniques algorithmiques, mais également de la parallélisation et de la mise en réseau globale des connaissances humaines.

Nous avons trop souvent tendance à confondre l’aube avec le crépuscule.

Changements de paradigmes

Lorsque je lisais, dans les années 1990, des Spirou et Fantasio se passant dans les années 50 ou 60, le monde me semblait très proche du mien. Certes, les voitures avaient des formes différentes, les téléphones avaient des cadrans rotatifs à la place des touches, il y avait des pompistes pour servir l’essence et des juke-box à la place des chaines hifis. Mais, globalement, tout était reconnaissable.

Lorsque mon aînée a dû passer un test de vue, vers 5-6 ans, l’ophtalmologue lui a demandé de reconnaître des images stylisées sur une vieille diapositive.

— Une maison !

Il s’approche alors de nous et nous dit qu’elle a un gros problème de vue. Mon épouse et moi nous écrions en même temps : « Mais c’est un téléphone à cadran ! Un objet qu’elle n’a jamais vu de sa vie et dont elle n’a même pas entendu parler ! »

En 2007 est apparu le smartphone, qui succédait au GSM lui-même popularisé fin des années 90, début des années 2000. Un GSM qui, jusque là, à cause de son coût et de son manque de réseau, ne remplaçait jamais totalement le téléphone fixe. Je me souviens d’un camp scout où les chefs disposaient d’un GSM en cas d’urgence. Ledit appareil ne fonctionnait qu’en haut de la colline… à côté de la cabine téléphonique.

Le changement de paradigme des téléphones mobiles est radical, effrayant. Nous sommes en permanence connectés. Nous « chattons » partout et tout le temps, un truc à peine imaginable avant les années 2000.

Je me souviens d’avoir lu, vers cette époque, un article expliquant que certains nerds de San Francisco discutaient via Internet avec leurs propres colocataires qui étaient dans la chambre d’à côté. C’était hallucinant, incompréhensible. C’est aujourd’hui la norme.

Le monde de Spirou et Fantasio semble incroyable à mes enfants : pas d’ordinateur, pas d’Internet, pas de téléphone mobile, pas de GPS. Pas moyen de se contacter instantanément ni de savoir où on est ! La plupart des auteurs de fiction modernes en sont réduits à utiliser des subterfuges narratifs pour contourner l’hyperconnexion : il n’y a justement pas de réseau dans la maison hantée, les randonneurs dans la forêt ont justement laissé leur GSM tomber dans la rivière. Parfois, ils utilisent cette psychose qui affecte désormais l’immense majorité de l’humanité : « Mon Dieu, je n’ai presque plus de batterie ! »

Nous avons vécu, ces 20 dernières années, une révolution comparable à l’électrification des ménages. Il est encore trop tôt pour en tirer les impacts réels à long terme.

Mais une chose est sûre : ces impacts seront plus importants que tout ce que nous pouvons imaginer.

Pourtant, la frénésie médiatique autour des blockchains puis de l’IA me fait dire que cela sent la fin de la période « folle », de ce temps d’exubérance, d’enthousiasme où l’on découvre chaque jour de nouvelles applications à ce nouveau paradigme. Un peu comme l’enthousiasme pour la voiture qui a eu lieu entre 1920 et 1960, nous promettant les voitures volantes et, à la place, remplaçant les trains par des autoroutes. Le paradigme une fois installé, le marketing a tenté, avec un succès certain, de maintenir l’enthousiasme sur des détails : le look de la voiture, le confort, l’ordinateur de bord, la frime ou, plus récemment avec les voitures électriques, l’aspect pseudoécologique. Mais toujours avec un paradigme bien installé.

Ce nouveau paradigme de l’ubiquité d’Internet, nous allons désormais en découvrir le prix à payer, ses inconvénients, les changements qu’il va avoir sur l’espèce toute entière. En bien comme en mal.

Inutile de lutter : comme pour l’électrification, il n’y aura pas de marche arrière. Ce n’est d’ailleurs certainement pas souhaitable.

Il est sans doute fini le temps de l’innovation à tout prix comme outil marketing, de la quête de nouvelles manières d’utiliser Internet afin de faire le buzz. La révolution est là, elle a eu lieu. Elle a été tellement rapide qu’elle a laissé de côté beaucoup d’enjeux à long terme, qu’elle a donné un pouvoir démesuré à quelques psychopathes qui comptent bien l’exploiter. Il est temps de consolider, d’observer et d’analyser ce que nous avons fait, de développer plus « sagement » en réfléchissant aux impacts de ce que nous faisons.

L’ubiquité de l’électricité, l’ubiquité de la voiture, l’ubiquité d’Internet : des changements de paradigme fondamentaux.

Quel sera le suivant ? C’est la question à plusieurs centaines de milliards. Personnellement, je ne peux que croiser les doigts pour que ce soit remettre en cause l’ubiquité de la voiture.

Adapté de mon journal du 29 mars 2024

• Image issue de Camille Flammarion et coloriée par Heikenwaelder Hugo