Après les tueries des mosquées de Christchurch, on espérait que cela ne se reproduise plus mais la diffusion en ligne de la vidéo de l’attaque d’une synagogue mercredi à Halle en Allemagne montre la difficulté qu’ont les plateformes internet à empêcher les tueurs de se mettre en valeur.

Le tireur, dont l’attaque en plein Yom Kippour a fait deux morts et deux blessés graves dans cette ville d’Allemagne de l’est, a réussi à poster les images de son attaque sur la plateforme de streaming en direct Twitch, un lieu où se retrouvent normalement les fans de jeux vidéos et d’esport.

Combien de temps les images sont-elles restées en ligne ? Combien de personnes ont-elles vu les images ? Twitch affirme ne pas encore connaître la réponse et poursuivre son enquête.

« Nous avons fait au plus vite pour retirer ce contenu, et nous suspendrons tous les comptes qui posteront ou reposteront des images de cet acte abominable », a indiqué une porte-parole de Twitch interrogée par l’AFP.

Si le bilan est moins lourd, le modus operandi à Halle a fait immédiatement penser à celui de l’auteur de l’attentat contre deux mosquées de Christchurch en Nouvelle-Zélande en mars.

Un Australien d’extrême droite avait tué 51 personnes avant d’être arrêté mais avait réussi à diffuser son attaque en direct pendant quelque 17 minutes sur Facebook, avant que la retransmission ne soit stoppée.

Ce très long délai avait valu à Facebook de très virulentes critiques et fait se lever des voix de toute part, exigeant une action immédiate.

– Intelligence artificielle –

Facebook a recruté des forces de police de part et d’autre de l’Atlantique pour éduquer ses outils d’intelligence artificielle pour tenter d’éviter la répétition d’un tel désastre.

La difficulté vient du fait que le « cerveau artificiel » doit pouvoir faire la différence entre une vraie attaque et une scène de film ou de jeu vidéo.

Si le filtrage réalisé par l’intelligence artificielle n’est pas assez précis, les usagers qui retransmettent des images virtuelles risquent de se voir éjectés du réseau.

Facebook a associé la police londonienne à son initiative. Les images filmées par les caméras portées par les unités de la « Met » lors de leurs entraînements au tir alimentent la banque d’images déjà constituée du réseau.

Les outils d’intelligence artificielle ont besoin de quantités énormes de données –ici des images de fusillades– pour pouvoir apprendre à les identifier correctement, les trier et in fine les supprimer.

Cette initiative, annoncée mi-septembre, s’inscrit dans le cadre plus large des mesures prises pour nettoyer les contenus « haineux et extrémistes » et les mouvement ou individus prônant le suprémacisme blanc.

L’entreprise a aussi multiplié les restrictions pour l’accès à Facebook Live.

– Alliance contre les extrémismes –

Facebook et ses partenaires ont aussi annoncé la création d’une nouvelle organisation en marge de l’Assemblée générale des Nations unies fin septembre à New York.

Elle doit regrouper Facebook, Microsoft, Twitter et Google (via YouTube) ainsi que Amazon ou encore les plateformes LinkedIn (appartenant à Microsoft) et WhatsApp (Facebook).

La nouvelle structure aura pour vocation de « déjouer les tentatives de plus en plus sophistiquées des terroristes et des extrémistes violents pour se servir des plateformes numériques ».

« Nous essayons de créer un mécanisme du genre défense civile. De la même manière que nous réagissons aux urgences naturelles comme les incendies et les inondations, nous devons être prêts à réagir à une crise comme celle que nous avons vécue », avait alors expliqué Mme Ardern.

Après l’attentat de Christchurch, Facebook avait supprimé 1,5 million de vues potentielles de la vidéo, dont 1,2 million avant qu’elles n’aient été visionnées par qui que ce soit.

« Ce fossé entre 1,2 million et 1,5 million, c’est là que nous reconnaissons que nous devons faire mieux », a reconnu la numéro deux du réseau, Sheryl Sandberg.

La structure bénéficiera d’un personnel indépendant.

Des acteurs non-gouvernementaux dirigeront quant à eux un comité consultatif et les gouvernements des Etats-Unis, de la France, du Royaume-Uni, du Canada, de la Nouvelle-Zélande et du Japon auront également un rôle de consultation, tout comme des experts de l’ONU et de l’Union européenne.