20 février 2019

Grâce à l’IA, Instagram lutte contre le harcèlement

Un nouveau filtre Instagram pour la modération et le community management

Deuxième réseau social le plus fréquenté par les jeunes, Instagram n’échappe pas au phénomène du harcèlement en ligne.  Le réseau social, plateforme dédiée à la photo et à la vidéo, lance un nouveau filtre fonctionnant grâce à l’intelligence artificielle pour supprimer tous les commentaires violents qui viennent polluer sa plateforme.

Sur la base du Machine Learning, Instagram a mis en place un algorithme qui va permettre détecter automatiquement les tentatives d’intimidation dans les photos ou dans les commentaires. Les publications concernées seront ensuite envoyées à des modérateurs humains pour effectuer la vérification finale et, éventuellement, leur suppression.

L’intelligence artificielle anti-harcèlement devrait être capable de repérer quand une personne est attaquée sur son physique ou sur sa personnalité. Par exemple, elle devrait pouvoir repérer différentes « techniques » de moquerie, comme le fait de comparer deux photos entre elles.

Des campagnes Instagram positives

Dans cet esprit, Instagram a lancé une campagne #KindComments, mouvement visant à encourager la gentillesse à la fois sur Instagram et en dehors. La campagne met en scène des personnes qui lisent à voix haute des commentaires qu’elles ont reçus sur leur compte Instagram et qui les ont spécialement inspirées, car elles y ont puisé de l’affection, du soutien et de la confiance en elles-mêmes.