Scoolup est une application en cours de test qui promet de lutter contre le cyberharcèlement des jeunes. Son objectif ? Mettre gratuitement à disposition des familles des outils basés sur l’intelligence artificielle et permettant de protéger les enfants de ce fléau sociétal. Les explications de Christophe Hilzheber, fondateur.
Comment avez-vous créé Scoolup ?
Le projet de créer Scoolup remonte à l’automne 2021, lorsqu’il y a eu en France une première prise de conscience du fléau sociétal que représente le harcèlement sous toutes ses formes. À l’époque, le président de la République avait annoncé la mise à disposition d’une application pour lutter contre le harcèlement scolaire. En février 2022, l’application 3018 était présentée publiquement par l’association e-Enfance. En examinant de plus près l’application et les autres solutions disponibles sur le marché, je me suis rendu compte qu’il existait des trous dans la raquette sur le volet technologique. Durant plusieurs mois, j’ai travaillé sur l’analyse du phénomène et animé des webinaires avec différents intervenants : des pédopsychiatres, des psychologues, Réseau Canopé… Progressivement, j’ai identifié un certain nombre de fonctionnalités qui me semblaient indispensables d’inclure dans une solution de lutte contre le cyberharcèlement. Fin 2022, le squelette de l’application était déjà défini.
Que propose votre solution ?
L’application, qui est encore en cours de test, poursuit l’ambition de protéger les enfants victimes de harcèlement. Dans les situations d’attaques en ligne, ils se trouvent face à une meute et doivent recueillir des preuves via des copies d’écran de tous les messages qu’ils reçoivent. Concrètement, sur la base d’un compte familial qui est décliné en profil enfant, les réseaux sociaux sont protégés via une analyse, effectuée par l’intelligence artificielle, des échanges que l’enfant peut avoir sur ses messageries. Si ce dernier est victime de messages violents, il en est informé, ainsi que ses parents et l’auteur des contenus. L’IA, pour lancer l’alerte, s’appuie sur des jeux de données et des dictionnaires qui permettent d’identifier plus rapidement les contenus malveillants. Après validation parentale, les preuves de harcèlement sont automatiquement stockées de façon sécurisée. D’autre part, seuls les messages insultants sont transmis aux parents, les autres restant privés.
Quels sont vos projets ?
L’application continue de faire l’objet de tests, notamment au sein du rectorat de Nancy-Metz avec lequel nous avons noué un accord qui débutera à la rentrée de septembre. Dans le cadre de ce projet pilote, les parents d’élèves de deux établissements scolaires de la région pourront télécharger gratuitement l’application. À terme, notre objectif est que l’application soit mise à disposition des familles gratuitement sur les stores. Nous travaillons également sur un projet consistant à faire évoluer en permanence le dictionnaire de notre IA, étant donné que le vocabulaire et les pratiques des jeunes évoluent rapidement. D’autres projets de partenariat, notamment avec des laboratoires de recherche publics, sont en cours de discussion. Enfin, nous souhaitons ajouter des briques technologiques permettant de détecter des images susceptibles d’être des supports de revenge porn.
