06.12.2016 | Дмитрий Сидоров

Еврокомнадзор

Под давлением властей ЕС хайтек-гиганты создают системы выявления нежелательного контента

Фото: shutterstock

Facebook, Microsoft, Twitter и YouTube объединили усилия для борьбы с интернет-терроризмом и создают общую базу данных, которая облегчит идентификацию террористических изображений и видеороликов, позволит быстрее пресекать распространение такого контента и, следовательно, уменьшить приток новобранцев и ограничить распространение радикальных идей.

«На наших площадках нет места контенту, продвигающему терроризм. Надеемся, что наше сотрудничество повысит эффективность проведения наших политик», — гласит совместное заявление интернет-компаний. Любой материал, который указанные сети удаляют как террористический, будет помечен таким образом, чтобы автоматическая система могла считать его характеристики и сравнивать их с другими материалами. Компании планируют обмениваться этими данными и создать их единую «карту».

Подобные идентификаторы уже используются в социальных сетях и поисковиках для определения и удаления детской порнографии, в частности, у Google, Twitter и Facebook. Поиск такого контента полностью автоматизирован, так же блокируются и все попытки размещения подобного материала в соцсетях. Однако эта программа, PhotoDNA, контролируется властями, а не компаниями — именно первые решают, какой контент попадает под определение детской порнографии, а какой — нет. Хани Фарид, один из создателей PhotoDNA, еще в январе предлагал разработать аналогичную для поиска экстремистского контента, и вот теперь к нему прислушались.

Во многом на решение компаний повлияли правительства стран, требовавшие от них побыстрее разобраться с проблемой контента наподобие пропагандистских видеороликов запрещенного в России «Исламского государства» (ИГ). Особенно это давление усилилось в последний год, после серии терактов в Европе (в Париже, Брюсселе, Ницце).

К соглашению интернет-компании пришли после многочисленных встреч с чиновниками Евросоюза на так назвываемом Интренет-форуме ЕС, организованном с целью определения стратегий противодействия террористической пропаганде через соцсети. В определенный момент евробюрократия даже предъявила интернет-компаниям своего рода ультиматум: «Сделайте что-нибудь для ограничения распространения подобного контента, или мы примем новые законы, которые обяжут вас это сделать».

Сам обмен «идентификаторами» между компаниями стартует в начале следующего года, сейчас компании прорабатывают все технические детали процесса. Facebook, Microsoft, Twitter и YouTube дали понять, что контент, идентифицированный как террористический на одной платформе, не будет автоматически удаляться на всех четырех. Сперва каждая компания проверит, нарушает ли отмеченный материал их политику пользовательской безопасности. Впрочем, интернет-гиганты нацелены на полное вычищение самого жестокого контента. Также компании объявили о «политике открытых дверей»: к их соглашению могут присоединиться все желающие.

До сих пор Facebook, Microsoft, Twitter и YouTube эксплуатировали активность пользователей, самостоятельно помечавших оскорбительный для них контент, нарушающий правила соцсети. Каждый такой запрос проверялс и удалялся вручную людьми из специальных отделов по борьбе с злоупотреблениями (abuse teams). Так, в период с августа по февраль 2016 года Twitter удалил 235 тысяч аккаунтов, которые пользователи посчитали экстремистскими.

Данный подход не всегда работал как следует, например, в июне начался процесс над Facebook, Twitter и Google по иску Рейнальдо Гонсалеса, отца убитой в парижских атаках ноября 2015 года девушки, который подал в суд на три компании за то, что они «сознательно позволили террористическим группам использовать соцсети в качестве инструмента для распространения экстремистской пропаганды, спонсирования и привлечения новых рекрутов».

КОНТЕКСТ

04.08.2017

Именем короля!

Бангкок обязал тайских провайдеров заблокировать сотни страниц в иностранных соцсетях

01.08.2017

Трудности перекода

Facebook прервал работу одной из своих систем искусственного интеллекта из-за того, что боты стали общаться на собственном языке, который непонятен человеку

28.07.2017

Тысяча и один блок

За пять лет Роскомнадзор ограничил доступ к 275 тысячам интернет-ресурсов

Спасибо, что читаете нас!
Давайте станем друзьями:

Спасибо, не сейчас

24СМИ