Aller au contenu Abonnez-vous Menu Journal Recherche PremiumAbonnez-vous Menu Journal o Actualités o Start-up o Tests o Pratique o Jeux video L'intelligence artificielle, nouvelle arme contre les commentaires violents sur Internet L'intelligence artificielle, nouvelle arme contre les commentaires violents sur Internet Flickr/CC/Wade Morgen Une filiale de Google a développé un programme capable de détecter automatiquement les messages violents ou le harcèlement ten ligne.
 Il sera d'abord testé par le New York Times.
 Sur Internet, pas besoin de creuser très loin pour trouver le pire: commentaires injurieux, harcèlement en ligne, messages de haine, etc.
 Lorsque le Web devient un champ de bataille, les sites en ligne sont obligés de s'armer de nouveaux outils sophistiqués.
 Le New York Times a annoncé mardi un partenariat inédit avec Jigsaw , une filiale d'Alphabet, la maison-mère de Google.
 Cette dernière a développé un programme d'intelligence artificielle dédié aux commentaires en ligne.
 Il doit aider les modérateurs du journal à repérer les commentaires similaires, selon leur violence, afin de les valider ou de les refuser en grappe.
 «Nous espérons que ce projet pourra ouvrir nos horizons, en donnant une plateforme sûre à des communautés diverses pour différentes conversations, et permettre à nos lecteurs de faire partie intégrante de notre travail», explique le New York Times dans un communiqué.
 «Cette nouvelle technologie permettra aussi à nos modérateurs d'avoir des discussions respectueuses et de fond avec nos lecteurs.
» Détecter le harcèlement en ligne Jigsaw est né est 2010, sous le nom de «Google Ideas».
 Son but était d'abord d'organiser une réflexion autour de la sécurité en ligne, sous la forme d'un think-tank et de l'organisation de conférences.
 L'entreprise est aujourd'hui composée d'une cinquantaine d'employés, en grande majorité des ingénieurs.
 Leur but est toujours d'œuvrer pour la sécurité en ligne, cette fois de manière plus concrète.
 L'une des premières initiatives sérieuse de Jigsaw fut le Project Shield, pour protéger les petites plateformes et les sites d'information d'attaques par déni de service.
 Il a aussi développé un programme capable de détecter les sites pro-djihadistes ou de suprématistes blancs, en les orientant depuis Google vers des pages de contre-propagande.
 Début septembre, Jigsaw a dévoilé dans le magazine américain Wired son nouveau projet: Conversation AI, une intelligence artificielle capable de détecter les messages violents ou de harcèlement.
 Cet outil doit venir aider les modérateurs de réseaux sociaux ou de sites Internet à réagir plus rapidement face aux agressions ou à la haine en ligne.
 Il a été élaboré en collaboration avec plusieurs victimes de harcèlement sur Internet.
 Conversation AI est un programme d'apprentissage automatique: il ingurgite un très grand nombre d'exemples afin de comprendre ce qui est autorisé, ou non.
 Dans ce but, il a analysé près de 17 millions de commentaires publiés sur le site du New York Times, prenant en compte leur caractère injurieux ou, au contraire, s'ils étaient respectueux.
 Jigsaw s'est aussi rapproché de la fondation Wikimedia, faisait analyser à son logiciel plus de 130.
000 extraits de conversations sur Wikipedia.
 Une dizaine de personnes recrutées au hasard ont été soumises à certains de ces messages.
 Elles étaient chargées d'estimer s'il s'agissait, ou non, de harcèlement.
 Un problème récurrent Conversation AI est désormais capable de repérer les attaques en ligne avec un taux de réussite de 92%, d'après Google.
 Le New York Times est le premier site à le mettre en application.
 Wikipedia réfléchit toujours à son exploitation sur ses pages.
 Jigsaw espère ouvrir le programme à d'autres sites prochainement.
 La violence en ligne et le harcèlement sont des enjeux cruciaux pour les plateformes en ligne et les réseaux sociaux.
 Twitter est par exemple régulièrement critiqué pour sa mauvaise modération des messages haineux.
 Les réseaux sociaux sont volontairement très discrets sur leurs efforts de modération.
 On ne sait pas combien de personnes sont chargées de contrôler les contenus sur YouTube, Facebook ou Twitter.
 Certains ont désormais recours à des programmes d'intelligence artificielle pour les aider dans le contrôle des images problématiques, notamment dans la lutte contre la pédopornographie ou la propagande terroriste.
 Fin mai, l'un des responsables des efforts d'intelligence artificielle chez Facebook affirmait que «davantage de photos problématiques sont désormais signalées par des robots plutôt par des hommes».
 L'utilisation de ce genre de technologies est souvent gardée secrète: les réseaux sociaux craignent d'être taxés de dictature, où des robots seraient chargés de faire respecter leurs règles.
 L'intelligence artificielle est pourtant un atout pour ces entreprises, qui traitent des milliards de données par jour qui ne peuvent être toutes contrôlées par des êtres humains.
 Mais ce genre de technologie est beaucoup plus complexe à appliquer au texte qu'à des photos ou des vidéos: il est simple de détecter si une image montre un corps nu ou du sang, beaucoup moins de savoir si une phrase est violente ou non.
 C'est ce casse-tête que pense pouvoir résoudre Jigsaw.
 La rédaction vous conseille américaine terrorisme Les cours des valeurs sur Figaro Bourse ALPHABET A Lucie Ronfaut Lucie Ronfaut Auteur - Sa biographie 166 abonnés Ses derniers articles trembler le monde de l'informatique ?
 Sur le même sujet Eric Schmidt, le «père de Google», quitte la présidence d'Alphabet Thématique : ALPHABET A Suivre locales CES 2018 : la folle course des régions pour présenter des start-up locales «Meltdown» et «Spectre» Le Figaro Premium Abonnez-vous pour 1€ seulement Annulable à tout moment Réagir à cet article 7 commentaires Claudec Figaro Intelligence artificielle .
.
.
 et conditionnée.
 Ce service considère-t-il les messages publicitaires comme des manifestations de harcèlement ?
 Le 29/09/2016 à 13:09 Alerter Répondre la verite vous liberera La conclusion de l'article me semble curieuse et un brin inquiétante.
 En effet s'il est difficile de détecter une phrase violente, l'est-elle réellement ou l'est-elle par rapport a un référentiel subjectif?
 Le 23/09/2016 à 17:01 Alerter Répondre Jean Aymard de Lisle Lam Je vais proposer au Figaro mes services en IA et Machine Learning afin de purger le forum de la propagande gauchiste.
 Par la même occasion on pourra éliminer les posts Jupéistes et anti-Sarkozystes.
 Le 22/09/2016 à 11:12 Lire les 2 réponses à ce commentaire Alerter Répondre jacks avec un pseudo pareil, l'IA vous banni direct, mais le Figaro ne doit pas être équipé.
 Le 23/09/2016 à 08:45 Alerter Répondre Erween Si vous soutenez encore Sarkozy, vous avez, en effet, bien des raisons de vous tourner vers l'Intelligence artificielle, pour palier à votre déficience analytique Le 22/09/2016 à 13:50 Lire la réponse à ce commentaire Alerter Répondre o Avatar michel levoye Excellent Erween !
 Le 22/09/2016 à 14:16 Alerter Répondre frederic plomb Non non il ne faut pas craindre l'intelligence artificielle!
 Le pire est vraiment à craindre quand vos conversations téléphonique seront analysées en permanence au nom de la sécurité nationale.
 Le 22/09/2016 à 10:00 Alerter Répondre L'actu en temps réel avec Le Figaro Suivre Testez vos connaissances !
 Des cadeaux à gagner Jouer Suivez Le Figaro sur Facebook Découvrir Plus de 7 000 recettes de cuisine à décrouvrir Rechercher Plus de 500 000 annonces immobilières Rechercher Jusqu'à 80% de réduction sur les spectacles Réserver Suivez l'évolution de vos conditions météo En savoir + L'intégrale du Figaro sur tous vos écrans S'abonner Trouvez la meilleure assurance santé en 3 minutes Comparer Le Figaro dès 22h sur votre ordinateur Lire 10 astuces pour apprendre n'importe quelle langue facilement Découvrir Passez votre annonce dans le Carnet du Figaro Découvrir Toutes les applications mobiles du Figaro Télécharger Le meilleur de la presse quotidienne et magazine S'inscrire Votre nouveau job parmi 10 000 offres d'emploi Rechercher Plus de 15 newsletters thématiques S'inscrire La boutique en ligne du Figaro Découvrir Le vin du mois en exclusivité - prix direct propriété Découvrir