Membres
L’intelligence artificielle contre la haine en ligne
L’intelligence artificielle contre la haine en ligne
Les discours de haine fleurissent et circulent massivement en ligne, notamment sur les réseaux sociaux. En 2019, un rapport européen sur l'islamophobie montrait que les musulmans figuraient parmi les premières victimes de cette haine qui peut parfois se transformer en tragédie. Il suffit de se souvenir l’attentat raciste survenu à Hanau, en Allemagne, le 19 février dernier ; il visait deux bars à chicha et a provoqué la mort de neuf personnes.
Face à ce constat, quinze chercheurs, dont Jérôme Ferret, sociologue à l’Université Toulouse Capitole, ont mis au point un outil d'analyse en ligne et de lutte contre la haine antimusulmane, Hatemeter. Financé par la Commission européenne, ce projet, coordonné par le groupe de recherche eCrime de l’Université de Trente en Italie, associe des criminologues, des sociologues, des linguistes et des informaticiens.
Très innovant, cet outil s’appuie sur une combinaison de langage naturel, d'apprentissage automatique et de visualisation. Il a été validé à la suite d’expériences menées en Italie, en France et au Royaume-Uni avec environ deux cents salariés et bénévoles des trois ONG partenaires du projet.
Contexte et témoignages
Dans un premier temps, il a fallu identifier les configurations d’expression de cette haine et ses spécificités historiques pour chacun des trois pays. En France, la construction de ce discours provient notamment de l’histoire coloniale, et de sa relation instrumentalisée en particulier avec l’Algérie : « Aujourd’hui, il subsiste des discriminations fréquentes envers toute personne qui présente une caractéristique pouvant avoir un lien avec la population issue de l’immigration d’Afrique du nord, que ce soit par le nom, les habitudes culturelles souvent fantasmées sans parler de la religion », précise le rapport.
Le rapport pointe par ailleurs le paradoxe entre, d’un côté, le caractère illégal de ces discours (une loi a été adoptée en juillet 2019 par l’Assemblée nationale, interdisant sur les réseaux sociaux les messages incitant à la haine, la discrimination ou la violence envers des populations), et d’autre part le principe de laïcité inscrit dans la constitution mais dont l’interprétation est sujette à forte controverse. N’importe quel signe religieux même s’il n’est pas accompagné d’un discours religieux, a tendance, en France, à être interprété comme du prosélytisme, observe le rapport.
Interviews et mots clés
Pour réaliser la base de données de cette plateforme, il a fallu identifier les mots clés des discours de haine anti-musulmans, sur Twitter et Youtube. Pour la France, ont été intégrés tous les tweets employant les mots clé et hashtags suivants : #EtatIslamique #IslamAssassin ; #IslamHorsdEurope #IslamDehors ; #Islamisation #Islamophobie ; #StopCharia #StopIslam ; #StopIslamisme #Invasion Musulmane ; #Musulmans. Il s’agit des mots clés considérés, au départ du projet, comme les plus pertinents au regard de leur utilisation sur Twitter, selon l’ONG partenaire. Mais de nouveaux hashtags et mots clés ont été ajoutés ensuite, incluant : #hijab #GrandRemplacement et #remigration #laïcité ». Au total, 151 738 tweets, 268 548 commentaires et 1 206 347 partages (retweets) ont été consignés entre septembre 2018 et mai 2019.
Quelques résultats
Cet outil s’avère particulièrement utile pour former les nouveaux employés et volontaires des ONG. Il permet de communiquer sur le phénomène de l’islamophobie à partir de données et de faits concrets mais aussi de suggérer des trames de contre discours et formuler des réponses appropriées. Une estimation a montré que ceux qui l’utilisaient réduisaient leur temps de réponse de moitié, passant de huit à quatre minutes.
Initialement, l’objectif de Hatemeter portait sur l’analyse et la lutte contre les discours de haine antimusulmans mais la plateforme a pu être utilisée pour combattre l’homophobie, la transphobie ou l’antisémitisme. Il a suffi pour cela de modifier les mots clés de la base de données. Il sera également possible de la dupliquer pour étudier les phénomènes de haine dans d’autres pays.
Informations complémentaires
Jérôme Ferret
Hatemeter
D'une durée de deux ans (2018-2020), le projet Hatemeter est financé par la Direction Générale de la justice et des consommateurs de la Commission européenne. Il est coordonné par l’Université de Trente en Italie et associe l’Université Toulouse Capitole, l’Université Teesside (Royaume-Uni), la Fondation Bruno Kessler, et trois organisations non gouvernementales : Amnesty International (section italienne), le Collectif contre l'Islamophobie en France, et Stop Hate UK.