Исследование: ИИ не помогает бороться с грубыми комментариями в интернете

Исследование: ИИ не помогает бороться с грубыми комментариями в интернете

Группа исследователей из Университета Аалто и Падуанского университета протестировала семь моделей, которые определяют грубые высказывания в интернете. Все они не смогли распознать нецензурную лексику, когда в нее внесли небольшие изменения.

Примеры выражений, с помощью которых тестировали ИИ, создавались автоматически — они специально были написаны неправильно, в некоторых случаях буквы заменялись на символы, в случайных местах ставились пробелы или в выражение добавлялось безобидное слово — например, «любовь».

В таких случаях модели оказывались малоэффективными и не находили эти высказывания оскорбительными. Ученые обнаружили только то, что ИИ оказался эффективным в случае, когда он должен был определить грубые выражения на которых обучался.

«Они работают хорошо только при встрече с типом данных, на котором были обучены. Основываясь на этих результатах, мы утверждаем, что для успешного обнаружения языка ненависти архитектура модели менее важна, чем тип данных и критерии маркировки. Мы также показываем, что все предлагаемые методы обнаружения хрупки против противников, которые могут вставлять опечатки, изменять границы слов или добавлять безобидные слова к оригинальной речи о ненависти», — отмечается в выводах ученых.

Подпишитесь на наши новости
Лого www.SiteHere.ru
1970-01-01 03:00 http://news.xtipe.com/ru/news/27545

Смотрите так же

Ученые работают над ИИ, который учится ходить как человек 1970-01-01 03:00

Проблемы со зрением являются одними из самых распространенных — от них страдают около 253 миллионов человек, 36 миллионов из которых являются полностью незрячими. Трости, животные-проводники и специально приспособленные пешеходные переходы делают навигацию по оживленным тротуарам и городским улицам немного легче, но они не всегда практичны. Специально для таких случаев группа ученых из немецкого стратапа AiServe работают над ИИ, который может стать новым типом помощника для незрячих.

Появился робот, который контролирует состояние Большого Барьерного рифа 1970-01-01 03:00

Робот похож на мини-подводную лодку, но это беспилотник, который контролирует качество воды, степень и скорость обесцвечивания кораллов, количество вредных микроорганизмов. Также его задача — контроль морской звезды, которая признана одной из трех основных угроз для рифа.

Исследователи хотят подтолкнуть небольшие астероиды на орбиту Земли для их изучения 1970-01-01 03:00

Приближение астероидов к Земле обычно рассматривается как плохое событие, однако ученые из университета Глазго видят в этом потенциальную возможность. Они рассказали почему преднамеренное перенаправление астероидов в окрестности нашей планеты, которым они занимаются, могут позволить нам изучить небесные тела.  

Поисковик «Яндекс» обошёл Google на Android-смартфонах в России. По данным самого «Яндекса» 1970-01-01 03:00

Доля «Яндекса» в сегменте поиска на смартфонах c операционной системой Android  впервые превысила этот показатель у Google. Основными факторами роста стал запуск голосового помощника «Алиса», пишет «Коммерсантъ» со ссылкой на данные «Яндекс.Радара».

В России появятся умные дорожные знаки. Они смогут определять допустимую скорость в зависимости от погоды 1970-01-01 03:00

На российских дорогах появятся знаки, которые будут автоматически определять оптимальный скоростной режим в зависимости от погодных условий. Об этом пишут «Известия» со ссылкой на сообщение Российского дорожного научно-исследовательского института (РОСДОРНИИ).