20 février 2019

Grâce à l’IA, Instagram lutte contre le harcèlement

instagram et l'IA

Un nouveau filtre Instagram pour la modération et le community management

Deuxième réseau social le plus fréquenté par les jeunes, Instagram n’échappe pas au phénomène du harcèlement en ligne.  Le réseau social, plateforme dédiée à la photo et à la vidéo, lance un nouveau filtre fonctionnant grâce à l’intelligence artificielle pour supprimer tous les commentaires violents qui viennent polluer sa plateforme.

Sur la base du Machine Learning, Instagram a mis en place un algorithme qui va permettre détecter automatiquement les tentatives d’intimidation dans les photos ou dans les commentaires. Les publications concernées seront ensuite envoyées à des modérateurs humains pour effectuer la vérification finale et, éventuellement, leur suppression.

L’intelligence artificielle anti-harcèlement devrait être capable de repérer quand une personne est attaquée sur son physique ou sur sa personnalité. Par exemple, elle devrait pouvoir repérer différentes « techniques » de moquerie, comme le fait de comparer deux photos entre elles.

Des campagnes Instagram positives

Dans cet esprit, Instagram a lancé une campagne #KindComments, mouvement visant à encourager la gentillesse à la fois sur Instagram et en dehors. La campagne met en scène des personnes qui lisent à voix haute des commentaires qu’elles ont reçus sur leur compte Instagram et qui les ont spécialement inspirées, car elles y ont puisé de l’affection, du soutien et de la confiance en elles-mêmes.

Plus

d'articles

21 mars 2024

Si nous voulons comprendre l’ampleur de la biodiversité marine et savoir comment elle pourrait être en danger, nous devons d’abord […]

14 mars 2024

Selon la direction générale de la Sécurité intérieure (DGSI), 72 attentats ont été déjoués depuis 2012. Mais, ces résultats ne […]

20 février 2024

Grâce à un outil d’intelligence artificielle, qui analyse les données de microclimat en fonction des caractéristiques des espaces publics, la […]

13 février 2024

L’utilisation de l’IA en entreprise se développe à grande vitesse. Elle est incitée par le développement des volumes de données […]

8 février 2024

Découvrez l’interview de Chléo Hinn, étudiante en Bachelor 3 à l’IA School sur le campus de Paris en Intelligence Artificielle […]

26 janvier 2024

Les étudiants de l’IA School, l’école de l’intelligence artificielle, ont eu le privilège d’être invités à visiter les locaux de […]