Des chercheurs d’Australie et du Bangladesh ont développé un modèle d’apprentissage automatique innovant qui peut détecter des commentaires toxiques sur les réseaux sociaux avec une précision de 87,6 %.
Cette avancée a été présentée lors de la conférence 2024 sur l’Innovation et l’Intelligence en Informatique, où les préoccupations croissantes concernant le cyberharcèlement et ses effets dévastateurs sur la santé mentale des utilisateurs en ligne ont été discutées.
La combinaison des efforts entre l’Université East West au Bangladesh et l’Université d’Australie du Sud a donné lieu à un algorithme qui surpasse les modèles existants, qui génèrent souvent un grand nombre de faux positifs.
Une IA pour résoudre un problème grave
La chercheuse principale, l’experte en science des données Afia Ahsan, a souligné que l’augmentation du cyberharcèlement a entraîné des problèmes graves tels que l’automutilation et même le suicide dans des cas extrêmes.
«Éliminer les commentaires toxiques des plateformes de réseaux sociaux est vital pour freiner l’abus qui est en augmentation et assurer des interactions respectueuses dans l’espace social», a affirmé Ahsan.
Le modèle optimisé a été testé sur un ensemble de données contenant des commentaires en anglais et en bangla, recueillis sur des plateformes renommées comme Facebook, YouTube et Instagram.
L’équipe a constaté que son modèle de machine à vecteurs de support (SVM) était le plus fiable et efficace parmi les trois modèles testés, ce qui en fait l’option préférée pour son implémentation dans le monde réel.
Les chercheurs prévoient d’élargir leurs capacités en intégrant des techniques d’apprentissage profond et en élargissant l’ensemble de données pour inclure davantage de langues et de dialectes régionaux.
D’autre part, des partenariats avec des plateformes en ligne sont explorés pour mettre en œuvre cette technologie, qui pourrait transformer notre manière d’interagir dans le domaine numérique et contribuer de manière significative à l’amélioration de la santé mentale sur les réseaux sociaux.