Cyberharcèlement : les limites des moyens humains
A l’ère du tout numérique et de la communication virtuelle, le cyberharcèlement est devenu un problème sociétal majeur. Ces agressions à distance n’ont de virtuel que le nom. Leur réalité psychologique est bien réelle et leurs conséquences peuvent être irréparables, notamment chez les adolescents qui en sont les premières victimes (sur un échantillon de 2000 collégiens, 20% des jeunes victimes de cyberharcèlement ont déjà pensé au suicide selon une étude américaine1).
Contrairement au harcèlement en face-à-face opérant dans un environnement physique et temporel restreint, le harcèlement en ligne ne connait pas de frontière. Il peut être partout et tout le temps ce qui le rend d’autant plus difficile à combattre. Cachés derrière leur écran, les harceleurs anonymes se sentent protégés, quand les victimes se trouvent surexposées et plus vulnérables. De plus, les réseaux sociaux et les plateformes de communication se multipliant sans cesse, il est impossible pour l’humain de surveiller et de contrôler en temps réel les cyberharceleurs qui utilisent des techniques très variées pour attaquer leurs victimes (insultes, moquerie, menaces, grooming, diffamation, outing, etc.).
Les apports de l’intelligence artificielle
Les progrès en intelligence artificielle, notamment en matière de Machine Learning et en traitement automatique des langues, permettent d’imaginer maintes possibilités pour tenter d’enrayer ou du moins de détecter à temps le cyberharcèlement et ainsi de protéger les internautes, en particulier les jeunes utilisateurs.
Le machine learning consiste à construire des modèles, basés sur des techniques statistiques ou des réseaux de neurones, qui détectent parmi un grand nombre de données des éléments en particulier et les classent selon des catégories précises, préalablement définies par des êtres humains.
Ainsi, l’un des enjeux majeurs de l’IA en matière de lutte contre le cyberharcèlement est de réussir à créer des modèles qui identifieraient automatiquement et en temps réel des signaux de harcèlement à partir de données non structurées (textes, images, vidéos), et alerteraient les parents des problèmes détectés pour leur permettre d’agir si nécessaire.
