Исследование: ИИ не помогает бороться с грубыми комментариями в интернете

Исследование: ИИ не помогает бороться с грубыми комментариями в интернете

Группа исследователей из Университета Аалто и Падуанского университета протестировала семь моделей, которые определяют грубые высказывания в интернете. Все они не смогли распознать нецензурную лексику, когда в нее внесли небольшие изменения.

Примеры выражений, с помощью которых тестировали ИИ, создавались автоматически — они специально были написаны неправильно, в некоторых случаях буквы заменялись на символы, в случайных местах ставились пробелы или в выражение добавлялось безобидное слово — например, «любовь».

В таких случаях модели оказывались малоэффективными и не находили эти высказывания оскорбительными. Ученые обнаружили только то, что ИИ оказался эффективным в случае, когда он должен был определить грубые выражения на которых обучался.

«Они работают хорошо только при встрече с типом данных, на котором были обучены. Основываясь на этих результатах, мы утверждаем, что для успешного обнаружения языка ненависти архитектура модели менее важна, чем тип данных и критерии маркировки. Мы также показываем, что все предлагаемые методы обнаружения хрупки против противников, которые могут вставлять опечатки, изменять границы слов или добавлять безобидные слова к оригинальной речи о ненависти», — отмечается в выводах ученых.

Подпишитесь на наши новости
Лого www.SiteHere.ru
1970-01-01 03:00 http://news.xtipe.com/ru/news/27545

Смотрите так же

Hubble сделал фото северного сияния на Сатурне 1970-01-01 03:00

Европейское космическое агентство опубликовало фото полярного сияния на Сатурне, которое телескоп Hubble сделал в 2017 году.

Фотографии планеты были сделаны телескопом Hubble во время летнего солнцестояния, информирует Европейское космическое агентство на официальном сайте.

Изображения, сделанные в ультрафиолетовом свете, лучше всего описывают сияние на северном полюсе Сатурна.

В Николаеве убили известного ученого Николая Шитюка, исследователя Голодомора 1970-01-01 03:00

В Николаеве убили украинского ученого, исследователя Голодомора Николая Шитюка. Об этом сообщает местное издание "Новости-N" со ссылкой на источник в прокуратуре.

Еще в обеденное время прошедших суток у пресс-службы Национальной полиции в Николаевской области появилась информация, что в квартире многоэтажного дома Николаева на пересечении проспекта Центрального и 3-й Слободской обнаружили тело человека с признаками насильственной смерти.

В Нигерии исламисты атаковали военную базу, около 30 солдат погибли 1970-01-01 03:00

На северо-востоке Нигерии в результате атаки исламистов на военную базу погибли около 30 военнослужащих. Об этом пишет Reuters.

Отмечается, что нападение произошло 30 августа, но известно о нем стало в воскресенье, 2 сентября, из-за того, что это случилось в отдаленном районе страны в селе Зари возле границы с Нигером.

За сутки боевики 11 раз обстреляли позиции ВСУ, 1 военный погиб, 2 получили ранения 1970-01-01 03:00

Российские оккупационные войска вели прицельный огонь из гранатометов, крупнокалиберных пулеметов и стрелкового оружия по нашим позициям в районах населенных пунктов Крымское, Троицкое, Южное, Павлополь, Водяное и Широкино, сообщает штаб ООС.

"Убийство" Бабченко: Суд дал Герману 4,5 года тюрьмы 1970-01-01 03:00

Голосеевский районный суд принял решение относительно приговора для Бориса Германа в виде 4 лет и 6 месяцев лишения свободы. Об этом глава СБУ Василий Грицак заявил журналистам в Киеве, сообщает "Укринформ".