Ученые разработалинеобычный алгоритм, способный отличить вежливыйдиалог в Интернете от «токсичного». Работа была проведена исследователями из Корнеллского университета(США).
В ходе обучения алгоритма ученые решили применить базу данных Wikipedia — Talkpages. Площадка ориентирована в основном на редакторов статей, которые обмениваются своими мнениями по поводу проверки информации. Всего в обработку поступилопорядка 1 200бесед, после чего нейросеть обучилась отличать вежливые предложения и сочетания слов от оскорбительных. В частности, те диалоги, что начинались словом «Ты», чаще всего были язвительными и имели негативный окрас.
Подобный алгоритм вскорестанет полезным для модераторов различных крупных форумов, где следить за активностью всех пользователей довольно трудно. В рамках исследования с участием людей и нейросети точность опросов при обнаружении «токсичности»разговора составила 72%, когда ИИ пока выдает показатель 65%. В будущем ученые планируют его улучшить.
