Algorithme, algorithme, est-ce que j’ai une tête d’algorithme?

Depuis un certain nombre de mois, les scandales autour des réseaux sociaux, de l’usage plus que douteux qu’ils font de nos données, ainsi que des conséquences du traitement en masse de données personnelles se succèdent les uns après les autres. Au-delà des enjeux très réels et très importants qu’ils soulèvent, les médias mettent en avant une menace due à ce qu’elles décrivent comme le règne ou l’invasion des algorithmes, qui auraient pour but de mettre l’humanité en esclavage.

Il est, par exemple, question du « scandale des algorithmes » ([1]), d’être jugés par des algorithmes ([2]), de rendre les algorithmes plus justes ([3]), du « mystère des algorithmes » ([4]), du secret des algorithmes ([5]), des algorithmes à la chasse des talents cachés ([6]), de savoir si on peut arrêter les algorithmes ([7]), de l’intelligence artificielle raciste et sexiste à cause des algorithmes ([8], [9], [10], [11], [12]).

Donc, si on en croit tous ces articles, un algorithme, ça ressemble à ça:

Qu’on ne s’y méprenne pas, toutes ces publications soulèvent des enjeux extrêmement importants, mais les liens qu’elles font avec ce qu’est un algorithme sont biaisés, simplistes, tordus et cela leur évite d’interroger la vraie cause de tout cela, à savoir les intentions des humains qui ont mis en oeuvre tous les outils dont il est question.

Pour revenir à notre sujet, un algorithme ne vole pas, ne crache pas le feu, n’a pas crocs ni l’haleine fétide. Un algorithme est un texte qui décrit une méthode pour obtenir un résultat dans un temps qui est fini et avec des ressources tout aussi finies, rien de plus.

Les algorithmes sont infiniment plus anciens que l’informatique. Ils sont apparus dans la plus haute antiquité, et dans de nombreuses civilisations qui avaient toutes besoin de faire des calculs afin de traiter des situations de la vie courante (calcul de la surface d’un champ afin d’en déduire l’impôt dû ou de le partager entre plusieurs héritiers, calcul de position et de la hauteur du soleil, calcul des saisons afin de savoir quand planter, etc.). On pourra trouver une histoire de ces débuts sur internet (par exemple ici: [13]) et dans de nombreux ouvrages.

Le nom lui-même vient du mathématicien perse al-Khowarizmi (780 – 840), dont les travaux ont fait date. En particulier, il a traité des méthodes de calcul avec les chiffres modernes, connus à l’époque sous le nom de « chiffres hindous » ([13]).

Les algorithmes sont parfois décrits par les médias comme des formes de recettes de cuisine (voir, par exemple [5]). En fait, ils sont à la fois plus et moins que ces dernières.

• Comme pour dans une recette, il peut être nécessaire de décrire ce dont on a besoin
• Ils vont également contenir des suites d’actions à entreprendre les unes après les autres.
• Ils ont aussi des choses qui leur sont propres.
  • Ils contiennent des conditions qui doivent être évaluées et le cours des choses va changer en fonction du résultat de cette évaluation.
    • Aucune recette ne va contenir quelque chose du genre:
      • Ouvrez votre four
      • Sortez la plaque
      • Vérifier la consistance des tomates
      • SI elle est OK
        • ALORS vous pouvez servir
        • SINON, jetez votre four par la fenêtre en hurlant des imprécations
  • Ils contiennent des actions à répéter jusqu’à ce qu’une condition soit vérifiée.
    • Aucune recette ne contient ce qui suit:
      • REPETEZ
        • Cuire vos tomates au four à 180C pendant 15 minutes
      • JUSQU’A CE QUE la consistance soit correcte
  • Ils contiennent des actions à faire qui font référence à l’action elle-même
    • Il n’y a rien en cuisine qui ressemble à la définition de la suite de Fibonacci ([14]):
      • Fibonacci (0) = 0
      • Fibonacci (1)=1
      • Fibonacci(n)=Fibonacci(N-1)+Fibonacci(n-2)
  • Et d’autres choses encore

 

• Par contre, une recette de cuisine, destinée à être utilisée par des humains est exprimée sous une forme qu’aucune machine ne saurait traiter correctement.
  • Par exemple, elle ne dit pas où sont disposés les ingrédients ni les instruments de cuisine
  • Elle ne précisera pas quand il faut ouvrir et refermer le frigo ou le four. Elle ne dira pas quand il faut sortir le mixer ni quand il faut le laver puis le ranger.
  • Elle peut contenir des expressions floues comme « faites cuire votre préparation pendant une petite heure »
  • Elle pourra ne pas mentionner des activités considérées comme « allant de soi », comme, par exemple, saler et poivrer, ni les variétés possibles d’assaisonnement.
• Un algorithme qui doit être exécuté par une machine doit être décrit sous une forme exacte et complète et dans un langage particulier qui ne laisse aucun espace à l’ambiguïté ni à l’interprétation. Ceci explique le côté étrangement rigide et formel de la syntaxe et de la grammaire des langages dits « de programmation ».

In fine, l’algorithme est bout de texte, le plus souvent relativement succinct (au plus une page ou deux) destiné à réaliser une tâche extrêmement précise et décrite avec tout le formalisme nécessaire pour obtenir le résultat escompté.

Par exemple, la wikipedia décrit l’algorithme dit « glouton » comme suit:

 

L’algorithmique est la science de l’étude des algorithmes. Elle fait partie des mathématiques. Elle a pour but de définir des algorithmes destinés à résoudre des problèmes. Elle a aussi pour but d’étudier leur efficacité, en termes de ressources nécessaires, de temps d’exécution et du caractère plus ou moins optimal de ce dernier. Et il y a comme un fossé entre le petit bout de texte qu’on voit ci-dessus et le dragon que décrit la presse.

Alors où est le problème?

Les petits bouts de textes dont il est question ci-dessus ne se sont pas assemblés tout seuls pour former des monstres. Ils n’ont pas non plus trouvé tout seuls les infrastructures nécessaires pour être efficaces. On a assemblé tout cela. Et ce « on » représente des hommes. Des humains ont financé ces entreprises. Ils y ont mis des milliards. D’autres les ont managés. D’autres encore ont fait le travail et y ont investi tout leur génie pendant des années. Leur motivation: l’argent, un maximum de profits et si possible à court terme. Les conséquences à moyen et à long terme sur la société n’ont jamais été un objet de préoccupation. C’était « cool », cela rendait ces gens célèbres, cela leur donnait de l’influence et leur permettait de « changer le monde » et de gagner beaucoup d’argent, chacun à leur niveau. Cela leur suffisait.

Les états n’ont pas réagi. La liberté d’entreprendre est sacro-sainte et les conséquences n’ont que peu d’importance. C’est vrai quand il est question de piller l’environnement, c’est tout aussi vrai quand il est question d’asservir les êtres humains. Les mêmes êtres humains n’ont pas réagi, ni individuellement ni collectivement. Ils n’ont pas flairé le piège. Pour les premiers, c’était « cool » d’utiliser des outils à la mode. La grande masse des autres a suivi, « pour faire comme les autres ». Le dernier carré de personnes un peu plus lucides ou un peu plus prudentes se voit lui aussi fortement incité à utiliser au moins en partie et à petite dose ce genre d’outils pour rester en phase avec le reste de la société.

Depuis le début de cette vague, le scandale autour de Cambridge Analytica a eu lieu sous nos yeux. Cette entreprise a même fermé ses portes, en tout cas sous son nom actuel ([15]). Est-ce que les pratiques des internautes ont changé? Pas à ma connaissance. Il y a eu un petit mouvement en faveur de quitter le réseau social Facebook, mais, dans le meilleur des cas, il est extrêmement marginal. L’essentiel des 2.5 milliards d’utilisateurs de cette plateforme en reste dépendant. Mais ils ne sont pas dépendants d’algorithmes qui seraient des êtres vivants maléfiques. Ils sont dépendants de drogues de synthèse qui ont été créées par des êtres humains dans le but explicite de rendre dépendants d’autres êtres humains ([16]).

[1] Parcoursup et le scandale des algorithmes,  https://blogs.mediapart.fr/pascal-maillard/blog/090518/parcoursup-et-le-scandale-des-algorithmes

[2] Justice prédictive : bientôt jugé par les algorithmes ? http://www.midilibre.fr/2018/05/08/justice-predictive-bientot-juge-par-les-algorithmes,1667491.php

[3] Une piste pour rendre les algorithmes de Facebook et de Google plus justes ? https://www.sciencesetavenir.fr/high-tech/web/une-piste-pour-rendre-les-algorithmes-de-facebook-et-de-google-plus-justes_123264

[4] Facebook et le mystère des algorithmes  http://www.lemonde.fr/m-perso/article/2018/04/27/facebook-et-le-mystere-des-algorithmes_5291565_4497916.html

[5] Les algorithmes devraient-ils livrer leurs secrets ? http://www.lemonde.fr/sciences/article/2018/04/19/les-algorithmes-devraient-ils-livrer-leurs-secrets_5287574_1650684.html

[6] Un robot pour recruter? Les algorithmes à la chasse aux talents cachés, http://www.journaldemontreal.com/2018/04/27/un-robot-pour-recruter-les-algorithmes-a-la-chasse-aux-talents-caches

[7] Racisme, sexisme : peut-on arrêter les algorithmes ?, http://www.ladn.eu/tech-a-suivre/ia-et-chatbot/quand-lintelligence-artificielle-creuse-les-inegalites/

[8] L’intelligence artificielle sexiste et raciste… à cause de ses algorithmes,  https://www.rtbf.be/info/medias/detail_l-intelligence-artificielle-sexiste-et-raciste-a-cause-de-ses-algorithmes?id=9861843

[9] Racisme, sexisme : on entraîne trop souvent des IA avec des photos d’hommes blancs, https://www.numerama.com/sciences/328860-racisme-sexisme-on-entraine-trop-souvent-des-ia-avec-des-photos-dhommes-blancs.html

[10] L’intelligence artificielle, aussi raciste et sexiste que nous, https://www.letemps.ch/sciences/lintelligence-artificielle-raciste-sexiste

[11] Intelligence artificielle : la reconnaissance faciale est-elle misogyne et raciste ? https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/intelligence-artificielle-la-reconnaissance-faciale-est-elle-misogyne-et-raciste_121801

[12] L’intelligence artificielle reproduit aussi le sexisme et le racisme des humains, http://www.lemonde.fr/pixels/article/2017/04/15/quand-l-intelligence-artificielle-reproduit-le-sexisme-et-le-racisme-des-humains_5111646_4408996.html

[13] History of Algorithms, http://cs-exhibitions.uni-klu.ac.at/index.php?id=193

[14] Voir, par exemple, https://fr.wikipedia.org/wiki/Suite_de_Fibonacci

[15] Cambridge Analytica annonce cesser « immédiatement ses opérations », https://www.rts.ch/info/monde/9540019-cambridge-analytica-annonce-cesser-immediatement-ses-operations-.html

[16] Sean Parker unloads on Facebook: “God only knows what it’s doing to our children’s brains”, https://www.axios.com/sean-parker-unloads-on-facebook-god-only-knows-what-its-doing-to-our-childrens-brains-1513306792-f855e7b4-4e99-4d60-8d51-2775559c2671.html