Du visage de l’inhumanité sur Google

Par Marc Knobel

Historien et Directeur des Etudes au Crif

 

La délégation interministérielle à la lutte contre le racisme, l’antisémitisme et la haine anti LGBT (DILCRAH) a pour mission de coordonner le travail des ministères en matière de lutte sur ces sujets. Il s’agit d’une mission transversale qui implique de très nombreuses structures politiques, associatives et privées. Le 27 février 2018, la DILCRAH avait convié différentes associations antiracistes à participer à une réunion informative, en présence des grandes plateformes (WhatsApp, Google, Facebook, Twitter…) Lors de cette réunion, il fut question de plusieurs problématiques : la pratique de la modération par les opérateurs Internet, l’enferment algorithmique, l’éducation à usage critique sur les réseaux sociaux, le développement de contre discours… Lors des échanges, à un moment, je m’adressai au représentant de Google. L’émotion se sentait probablement au timbre de ma voix, au choix des mots que j’employai, à l’instant et sur le moment. Un échange qui fut relativement bref mais vif. Ce que j’avais à dire, je le pensais fermement. J’expliquais d’abord un fait peu connu, je n’avais cependant pas assez de temps pour le détailler. Je parlais d’un manuel de 103 pages intitulé «L’Administration de la sauvagerie.» J’expliquais très brièvement qu’il avait été publié en français en 2007 sous le titre «Gestion de la barbarie». Ce manuel avait été écrit par un auteur qui se fait appeler Abou Bakr Naji, mais il s’agit en réalité certainement d’une œuvre collective. Parue sur Internet en 2004, « L’administration de la sauvagerie » vise précisément à décrire et dans le détail les étapes par lesquelles devaient/devront passer les groupes islamistes avant de s’imposer face aux régimes arabes et musulmans, puis contre les Etats-Unis et les Occidentaux, en vue de la conquête du monde. Au terme d’une longue enquête qu’il a consacrée à l’Etat islamique, le chercheur Hassan Hassan, qui travaille à Abu Dhabi, le confirme: «Ce livre est très lu parmi les commandants de Daech, afin par exemple de prouver que les décapitations sont justifiées.»

Je pris alors mon portable, pour dire ce que je voyais. Ce qui m’horrifiait, ce qui m’épouvantait. Lorsque l’on tape le mot « décapitation » sur Google et que l’on clique ensuite sur l’onglet «images»

Ouvrons une parenthèse, avant de poursuivre notre récite. Comment fonctionne le moteur de recherche ? Permettez-moi de citer Google, car je ne suis guère un spécialiste de la chose :

« Lorsque vous effectuez une recherche Google, une liste de résultats provenant des quatre coins du Web s’affiche presque instantanément… Lorsque vous effectuez une recherche Google, nos programmes vérifient notre index afin de vous présenter les résultats de recherche les plus pertinents. Nous utilisons un nombre impressionnant d’ordinateurs pour explorer des milliards de pages Web. Le programme chargé de l’exploration s’appelle Googlebot (également désigné par les termes « robot » ou « robot d’indexation », ou encore « spider » en anglais). Le processus de Googlebot est basé sur des algorithmes ; nos programmes informatiques déterminent les sites à explorer, la fréquence d’exploration et le nombre de pages à extraire de chaque site… »

Bref, la machine fait tout. Elle fouine, elle cherche, elle détermine minutieusement, elle extrait, elle indexe et livre alors le/un/les/des contenus, les mots, les phrases, les textes, les vidéos et les images. En vrac, en stock, en gros, en pâté de maison. La machine est surpuissante, elle remplace l’homme. Elle est si puissante qu’elle trouve de tout (ou presque) sur tout. Indistinctement, toujours et en une fraction de seconde.

Sur Google, j’ai donc tapé le mot « décapitation », au singulier. Puis, j’expliquais que j’avais cliqué sur l’onglet « Images » de Google et c’est avec consternation, horreur et dégoût que j’ai vu que plusieurs occurrences (tendance de recherches) sont alors proposées :

«Etat islamique » 

« Syrie »,

« Tête ».

Dans toutes ces occurrences, Google Images indexe et renvoie donc vers des photos monstrueuses, particulièrement inhumaines et d’une violence inouïe.

Je vois par exemple, des jambes en train de jouer au football avec la tête -je dis bien la tête- d’un homme qui a été décapité, tête maculée dans son sang. Il s’agit en l’occurrence d’un homme. Je vois aussi ici la photographie immonde d’un homme qui a été décapité par les islamistes de Daech, tête posée sur son propre corps. Je vois les photographies innombrables de journalistes et d’otages qui allaient être décapités par Daech. Dans un cérémonial de mort, les terroristes font poser ces hommes, avant de les supplicier. Je vois les photographies de barbares qui brandissent des couteaux, affutés, tous les objets de la mort, de l’horreur et de la bestialité. Plus loin, un terroriste brandit fièrement une tête d’homme, maculée de son sang ; un autre fait le V de la victoire de la main gauche et de la main droite, il brandit une tête de femme ; plus loin encore, des terroristes égorgent des otages. Les photographies se succèdent. Encore plus loin, un autre djihadiste pose sur un barbecue une tête humaine… Toutes ces photographies ne proviennent pas toutes de sites islamistes, loin s’en faut. Il n’en reste pas moins que l’on peut trouver ce genre de photographies, car elles sont TROP facilement indexées dans les moteurs de recherche. Et, lorsque vous cliquez sur une photo, vous entrez sur un site et s’il s’agit d’un site de propagande, vous voici témoin de l’inhumanité.

Il y a peu, Marine Le Pen postait plusieurs photos choquantes des victimes de Daech sur son compte Twitter dont un cliché illustrant la décapitation du journaliste James Foley, pour répondre à Jean-Jacques Bourdin qui faisait un parallèle entre Daech et son parti. Wallerand de Saint Just, candidat FN aux élections régionales 2015 en Ile-de-France rejetait la faute… sur Google : « elle est accessible, cette photo… », disait-il et sur Google. En effet, toutes ces photographies sont accessibles. Le parquet de Nanterre avait alors engagé une procédure sur le fondement de l’article 227-24 du Code pénal. Selon ce texte, le fait « de diffuser [...] un message à caractère violent, incitant au terrorisme, pornographique ou de nature à porter gravement atteinte à la dignité humaine ou à inciter des mineurs à se livrer à des jeux les mettant physiquement en danger, soit de faire commerce d’un tel message, est puni de trois ans d’emprisonnement et de 75 000 euros d’amende lorsque ce message est susceptible d’être vu ou perçu par un mineur ».

Par contre, le parquet de Nanterre ne pourra lancer une procédure sur le fondement de l’article 227-24 du Code pénal contre Google, pour la bonne raison juridique que Google ne diffuse pas. C’est vrai. Il indexe, nuance. Même s’il rend accessible le contenu que personne ne trouverait sans son aide. Il est vrai aussi que sans la création d’une infraction (au niveau au moins français) d’indexation « sauvage », aucun recours (pénal) n’est possible contre Google.

Bref, lors de cette réunion, je faisais part de ma colère au représentant de Google qui m’assena que ce n’était pas la première fois que je le disais. Je répondis que je devrais le dire autant de fois que bon me semblera tant la réponse de Google n’est pas satisfaisante.

Que m’a-t-il été répondu ? Que j’avais toujours la possibilité de signaler à Google ces images. Réponse cynique s’il en est et le comble d’un système particulièrement pervers qui se défausse sur des particuliers pour effectuer un/son pseudo ménage, alors que leurs propres algorithmes cherchent dans toutes les poubelles du monde, toutes les saletés du monde. A un moment de grande tension, de massacres innombrables, au moment même ou sur la Ghouta orientale, des bombes s’abattent et massacrent des enfants, le moteur de recherche ne cache pas la misère du monde, il vous la sert sur un plateau, si telle est votre demande. Et c’est bien là le problème. Un système qui ne pense pas, qui ne se régule pas.

Ce n’est pas que je sois « has been », je conçois qu’il faille créer des outils performants pour nous permettre d’avancer, de prospecter, de trouver, d’indexer, bref, des moteurs de recherches. Mais, je demande qu’il y ait d’un bout à l’autre de la chaîne des hommes (oui, des hommes, des HOMMES) pour vérifier que l’on ne voit pas, via… Google, des choses qui attentent à l’Humanité. Tout simplement parce que le monde virtuel ne doit pas être le refuge de toutes les provocations, haines et violences qui bafouent constamment la nature humaine, qui salissent constamment la nature humaine, qui heurtent notre conscience humaine.

Sommes-nous alors des censeurs, nous qui nous battons pour que le Net soit régulé de ces scories?

Sommes-nous liberticides, nous qui considérons que le racisme n’est pas une opinion, mais une tare, une tache indélébile? Sommes-nous dangereux, nous qui rêvons d’un Net et d’un monde débarrassé de ces horreurs?

Sommes-nous dangereux, nous qui nous appuyons sur les conventions, chartes et traités internationaux, dûment signés et acceptés par tant de pays et de peuples? Est-ce nous qui sommes dangereux ou les autres? Ceux qui se taisent lorsque des pages attisent la haine, discriminent, poussent au meurtre et montrent l’horreur sans la moindre retenue, sans modération? Et foulent au pied les plus élémentaires des droits: les droits de l’homme.

Ultime question : est-ce futile/dérisoire d’avoir en tête encore quelques consciences ou doit-on tout gober, sans protester jamais au nom de… l’argent roi ?

 

Photo by SHTTEFAN on Unsplash

Qu'en pensez-vous?