St
Правозащитники оценили нейросеть «ВКонтакте», борющуюся с гомофобией и расизмом

Правозащитники оценили нейросеть «ВКонтакте», борющуюся с гомофобией и расизмом

Сервис поможет быстрее находить материалы с враждебными высказываниями и публикации, провоцирующие аудиторию на агрессию

Сервис поможет быстрее находить материалы с враждебными высказываниями и публикации, провоцирующие аудиторию на агрессию Фото: © pixabay.com
Фото: © pixabay.com

Социальная сеть «ВКонтакте» тестирует нейросеть*, позволяющую быстрее находить материалы с проявлениями ксенофобии, расизма, гомофобии, сексизма и публикации, которые провоцируют аудиторию на проявление агрессии. Правозащитник Владимир Васин заявил Daily Storm, что новый сервис не станет панацеей в борьбе с разжигателями ненависти и вражды. При этом правозащитник Борис Пантелеев считает, что эта нейросеть дисциплинирует пользователей соцсети и уменьшит число хейтеров.


«Категорически против этой инициативы, потому что программное обеспечение может выдавать ошибки. Человеческий фактор здесь необходим, специальная подготовка в области лингвистики. Не знаю, по какому алгоритму будет работать эта программа, но не верю, что «ВКонтакте» может сделать что-то качественное и хорошее», — заявляет адвокат Международной правозащитной группы «Агора» Владимир Васин.


По мнению Васина, «сервис надо тестировать совместно с экспертными сообществами, потому что на кону судьбы людей стоят». «Есть экстремизм или нет — это тонкая грань. Ее не видно глазом, не говоря уже о каком-то программном обеспечении. Разбираться в подобных вещах [оценке враждебных высказываний] должны профессионалы, а не конвеерно», — рассуждает он.


Правозащитник Борис Пантелеев, занимавшийся разработкой первоначальной версии 282-й статьи Уголовного кодекса России «Возбуждение ненависти либо вражды, а равно унижение человеческого достоинства», назвал инициативу соцсети «ВКонтакте» разумной. «Искусственный интеллект привлекается для мониторинга соцсетей уже лет десять. Это не новая идея, а общее явление. Не только «ВКонтакте», но и «Одноклассники», Facebook этим занимаются. Но сейчас расширен список искомых терминов и опасных выражений. Раньше он в основном был ориентирован на террористов, противодействие торговли наркотиками», — напоминает Пантелеев.


Он отмечает, что новая технология призвана ускорить время обработки жалоб на хейтеров. «Эта работа неизбежна. Она идет во всем мире, и мы не должны быть в данном отношении последними — это очевидно. Если Twitter и Facebook закрывают посты сына президента или самого президента США — это делается на основании неких алгоритмов, которые заложены в искусственный интеллект», — объясняет собеседник Daily Storm.


Человеческого ресурса не хватит для мониторинга всего, что постоянно обновляется в соцсетях, указывает Борис Пантелеев. Поэтому, продолжает он, автоматическое распознавание материалов с враждебными высказываниями (так называемый хейтспич) на основе искусственного интеллекта — логичное решение.


«При таком объеме информации и таком количестве страниц, обновлений сайтов — человеческий мониторинг просто неэффективен и невозможен. Это логичная мера. Может быть, даже поздно принятая. Я бы гордился, если бы «ВКонтакте» сделали систему лучше, чем в Китае или США», — заключил правозащитник.


Генеральный директор компании «Нейросети Ашманова» Станислав Ашманов сказал Daily Storm, что считает инициативу «ВКонтакте» логичной и технически реализуемой: «Классификация комментариев, постов, жалоб, обращений граждан — это стандартные и очень полезные технологии для компаний, работающих с миллионами клиентов».


Трудностей в этой задаче нет, отмечает эксперт. «Точнее, они все типовые для проектов Data Science: необходимость сбора и разметки большого массива обучающих данных (примеров для обучения нейронных сетей), настройка логики бизнес-процессов, включающих в себя стадию классификации текстов с помощью методов искусственного интеллекта (например: что делать с ложными срабатываниями?)», —поясняет Ашманов.


Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Она позволит точнее откалибровать уже существующие инструменты и собрать набор данных для новых решений на основе нейросетей. Также модераторы соцсети проводят проактивный внутренний мониторинг, в частности — с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.


За первую половину 2020 года «ВКонтакте» удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти. Кроме того, соцсеть заблокировала более тысячи профилей и почти 2,5 тысячи сообществ, распространяющих враждебные высказывания.


*Нейросеть — самообучающийся массив вычислительных систем, построенная по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма.


Самое интересное - на нашем канале в Яндекс.Дзен
St

Загрузка...
Загрузка...
Загрузка...
Загрузка...
Загрузка...
Загрузка...
Загрузка...