The Social Dilemma : une certaine repentance de la Silicon Valley

The Social Dilemma, le documentaire de Netflix, a pour objet de démontrer que l’évolution des réseaux sociaux ces dernières années est néfaste pour l’humanité. Les entretiens avec des ex pontes des GAFAM se succèdent, entrecoupés par des scènes de vie familiale où le cauchemar de la vie numérique ira crescendo de manière assez outrancière (en tout cas, caricaturale comme savent le faire certains réalisateurs américains).

La repentance affichée et les alertes émises par les designers, ingénieurs qui ont travaillé chez Facebook, Google, Twitter, … (Tristan Harris au premier chef) sonne un peu faux et naïf. Ou opportuniste ? L’avenir nous le dira. Entendons nous bien, les arguments avancés sont justes et qu’ils soient exprimés justement par les inventeurs du scroll infini, de la monétisation des contenus, … renforce le propos sur la dangerosité des réseaux sociaux. Mais on ne peut s’empêcher de penser qu’il y a une certaine hypocrisie derrière tout cela (la palme revenant à Roger Mcnamee, « Early Facebook Investor », où comment cracher sur un projet que l’on a soutenu financièrement). Néanmoins si les utilisateurs prennent conscience qu’il faut ou se détacher complètement de ces plate-formes ou en tout cas réviser radicalement notre façon de les utiliser, alors ce documentaire aura atteint son but, et d’une manière peut-être plus efficace que des centaines d’essais sur le sujet parus ces dix dernières années.

Un sujet évoqué dans le documentaire et sur lequel je suis très sceptique quant aux arguments avancés est la puissance de l’IA. Non sur les capacités de recommandations ou de suggestions de contenus de l’algorithme mais sur le fait de considérer justement l’IA comme « intelligente ». Cela peut être un horizon mais pour l’instant c’est finalement très bête, cela ressemble plutôt à un âne savant : des milliards de données collectées, des capacités de calculs quasi infinies permettent d’obtenir effectivement des résultats probants, mais où est le caractère intentionnel ? On est plus proche d’automatismes qui n’intègrent pas une donnée essentielle de l’histoire humaine : la contingence, l’évènement imprévu. De plus dans le documentaire, ils parlent de machine learning, de la « formidable » capacité auto-apprenante de l’IA. C’est oublier que les ouvriers du clic (cf. les travaux d’Antonio Casilli et son essai En attendant les robots : enquête sur le travail du clic) ou les captchas agaçantes de Google (où vous devez reconnaître des bouches à incendie par exemple) alimentent les IA de façon à augmenter leur capacité de reconnaissance et donc optimiser l’algorithme. Sans ce travail en amont rémunéré ou effectué gratuitement par l’utilisateur, l’IA ne peut fonctionner de manière optimale. Elle est donc encore loin d’être autonome. Les différents intervenants soulignent la magie des technologies actuelles mais eux mêmes sont prisonniers d’une vision magique de l’IA. Il ne s’agit pas de remettre en cause un futur possible où les machines domineraient l’espèce humaine mais tromper l’algorithme, injecter un virus dans une IA voire couper l’électricité (et les générateurs de secours) d’un datacentre sont des actions tout à fait faisables et je ne suis pas sûr qu’une IA à l’heure actuelle ait les capacités cognitives pour s’y opposer.

Finalement, dans ce documentaire, on donne trop de crédit au déterminisme de la technologie actuelle, même si des garde-fous sont évoqués. Tout est décrit comme une évolution inéluctable sans possibilités de retour en arrière ou pour éviter le cliché du passéiste (les Amish du président Emmanuel Macron), sans pas de côté, sans passer par des chemins de traverse. Un principe en informatique peut nous permettre d’envisager une alternative à ce futur mortifère : le hack. Non pas dans le sens de piratage, utilisation malheureusement courante aujourd’hui, mais de détournement des fonctions d’un outil informatique, au départ pour détecter des failles mais qui peut amener à l’utiliser différemment. Dans le cas des réseaux sociaux, cela pourrait bien être tromper l’algorithme par des actions non prévues (même surpuissant, on peut tromper un algorithme, enfin pour quelques temps encore), utiliser des outils qui contrent la publicité (ciblée ou non). Bref il faut miser sur l’inventivité humaine, faculté encore inconnue pour l’IA (malgré toutes les stupidités énoncées par cet âne bâté d’Elon Musk).

Pour conclure, si l’on veut approfondir le sujet de The Social Dilemma, je recommande deux ouvrages lus cette année : À la trace d’Olivier Tesquet et Les possédés du collectif Tech Trash.

Laisser un commentaire