Dernières nouvelles

Instagram lance des outils pour filtrer les DM abusifs basés sur des mots-clés et des emojis, et pour bloquer des personnes, même sur de nouveaux comptes

Instagram lance des outils pour filtrer les DM abusifs basés sur des mots-clés et des emojis, et pour bloquer des personnes, même sur de nouveaux comptes

Facebook et sa famille d’applications sont depuis longtemps aux prises avec la question de savoir comment mieux gérer – et éradiquer – l’intimidation et autres harcèlements sur sa plate-forme, se tournant à la fois vers les algorithmes et les humains dans ses efforts pour mieux s’attaquer au problème. Dans le dernier développement, aujourd’hui, Instagram annonce de nouveaux outils.

Premièrement, il introduit une nouvelle façon pour les gens de se protéger davantage du harcèlement dans leurs messages directs, en particulier dans les demandes de messages au moyen d’un nouvel ensemble de mots, de phrases et d’émojis qui pourraient signaler un contenu abusif, qui comprendra également les fautes d’orthographe courantes de ceux-ci. termes clés, parfois utilisés pour tenter de contourner les filtres. Deuxièmement, cela donne aux utilisateurs la possibilité de bloquer de manière proactive des personnes même s’ils essaient de contacter l’utilisateur en question via un nouveau compte.

La fonctionnalité de blocage de compte sera mise en ligne dans le monde entier dans les prochaines semaines, a déclaré Instagram, et cela m’a confirmé que la fonctionnalité de filtrage des DM abusifs commencera à être déployée au Royaume-Uni, en France, en Allemagne, en Irlande, au Canada, en Australie et en Nouvelle-Zélande. dans quelques semaines avant d’être disponible dans d’autres pays au cours des prochains mois.

Notamment, ces fonctionnalités ne sont déployées que sur Instagram – pas Messenger, ni WhatsApp, les deux autres applications très populaires de Facebook qui permettent la messagerie directe. Le porte-parole a confirmé que Facebook espérait l’amener à d’autres applications de l’écurie plus tard cette année. (Instagram et d’autres ont régulièrement publié des mises à jour sur des applications uniques avant d’envisager comment les déployer plus largement.)

Instagram a déclaré que la fonction d’analyse des DM à la recherche de contenu abusif – qui sera basée sur une liste de mots et d’émojis que Facebook compile avec l’aide d’organisations anti-discrimination et anti-intimidation (il n’a pas précisé lesquels), ainsi que des termes et les emojis que vous pourriez ajouter vous-même – doivent être activés de manière proactive, plutôt que d’être rendus disponibles par défaut.

Pourquoi? Plus de licence utilisateur, semble-t-il, et pour garder les conversations privées si les utilisateurs le souhaitent. «Nous voulons respecter la vie privée des gens et leur donner le contrôle de leurs expériences de la manière qui leur convient le mieux», a déclaré un porte-parole, soulignant que cela est similaire au fonctionnement de ses filtres de commentaires. Il vivra dans Paramètres> Confidentialité> Mots cachés pour ceux qui voudront activer le contrôle.

Il existe un certain nombre de services tiers dans la nature qui construisent actuellement des outils de modération de contenu qui détectent le harcèlement et les discours de haine – ils incluent Sentropy et Hive – mais ce qui a été intéressant, c’est que les grandes entreprises technologiques jusqu’à présent ont choisi de construire eux-mêmes ces outils. C’est également le cas ici, a confirmé la société.

Le système est complètement automatisé, bien que Facebook ait noté qu’il examine tout contenu signalé. Bien qu’il ne conserve pas les données de ces interactions, il a confirmé qu’il utilisera des mots signalés pour continuer à créer sa plus grande base de données de termes qui déclencheront le blocage du contenu, puis la suppression, le blocage et le signalement des personnes qui l’envoient.

À propos de ces personnes, cela fait longtemps que Facebook a commencé à devenir plus intelligent sur la façon dont il gère le fait que les personnes vraiment mal intentionnées n’ont pas perdu de temps à créer plusieurs comptes pour prendre le relais lorsque leurs profils principaux se boucher. Les gens ont été aggravés par cette faille aussi longtemps que les SM existent, même si les politiques de harcèlement de Facebook avaient déjà interdit aux gens de contacter à plusieurs reprises quelqu’un qui ne voulait pas entendre parler d’eux, et la société avait déjà interdit la récidive, qui comme Facebook le décrit, signifie « si le compte de quelqu’un est désactivé pour avoir enfreint nos règles, nous supprimerons tous les nouveaux comptes qu’ils créent chaque fois que nous en aurons connaissance. »

L’approche de l’entreprise en matière de messages directs a été en quelque sorte un modèle pour la manière dont d’autres entreprises de médias sociaux les ont construites.

Essentiellement, ils sont ouverts par défaut, avec une boîte de réception réservée aux contacts réels, mais une deuxième pour que quiconque puisse vous contacter. Alors que certaines personnes ignorent tout simplement cette deuxième boîte, la nature de la façon dont Instagram fonctionne et est construit est pour plus, pas moins, de contact avec les autres, ce qui signifie que les gens utiliseront ces secondes boîtes de réception pour leurs DM plus qu’ils ne le pourraient, par exemple, plongez dans leurs boîtes de réception de spam par e-mail.

Cependant, le plus gros problème continue d’être un jeu de taupe, et que non seulement ses utilisateurs demandent plus d’aide pour le résoudre. Alors que Facebook continue de se trouver sous l’œil scrutateur des régulateurs, le harcèlement – et une meilleure gestion de celui-ci – est devenu un domaine très clé qu’il devra résoudre avant que d’autres ne le résolvent.

Source de nouvelles

Tags

About the author

Didier Eribon

Didier Eribon

Didier est journaliste à temps plein pour MeillEurken et couvre l'actualité technologique et économique. Il contribue régulièrement à Time, Men's Health et à VICE Media. Son travail a également été présenté dans Shape, Sports Illustrated, Food & Wine et de nombreux autres magasins. Domenico a reçu des prix journalistiques de la Society of Professional Journalists et du Maryland.

Add Comment

Click here to post a comment