AI распознает грубиянов

Нейросети для ученых как игрушка с беконечными возможностями применения. Чего их только не заставляли делать: рисовать пейзажи в стиле импрессионизма, создавать трехмерные изображения людей, разговаривать, писать новости, химичить с новыми веществами и другой работой, которую возжелала переложить на плечи искусственного интеллекта изобретенная исключительно природой человеческая лень.

А теперь исследователи Корнеллского университета из США решили превратить нейросеть в удобный инструмент для модерации чатов и форумов в интернете. С чего, собственно говоря, и следовало начать на заре создания AI. Поле тут непаханное. В основу обучения AI легла запылившаяся база реплик между редакторами Wiki, где они во время рабочих диалогов невзначай с любезностей переходили на двусмысленные фразы, которые либо намекали на грубость, либо являлись открыто оскорбительными для одной из сторон разговора. Начитавшись данных, AI научился с точностью в 65%, по сравнению с человеком с 71%, определять токсичность диалога. Ну русскому сегменту Сети от этого не легче. Нейросеть тренировалась на английских диалогах, где своеобразная манера общения и оскорблением считается даже простое предложение, начинающееся с местоимения You. Если этот инструмент на основе AI после тестов получит практическое применение, то модерировать тонны язвительных диалогов админам станет значительно легче.

Источник Фото 1