YouTube обучает машины искать экстремистские видео

фото

В мире | 6 декабря 2017 года, 12:58

В 2018 году более 10 тысяч сотрудников Google будут привлечены к процессу контроля над экстремистским контентом на YouTube, заявила глава видеосервиса.

В своей колонке в газете Daily Telegraph Сюзан Войчицки рассказала, что YouTube часто используют для манипуляций, оскорблений и агрессии, которые могут нанести вполне реальный вред.

По ее словам, начиная с июня, видеосервис, принадлежащий компании Google, использует технологию машинного обучения, чтобы выявлять экстремистские видео. С ее помощью более 150 тыс. роликов были удалены с сайта.

В марте британское правительство временно прекратило размещать свою рекламу на YouTube, опасаясь, что она будет показана перед видео недопустимого содержания.

Во время своей сентябрьской речи в Генеральной ассамблее ООН премьер-министр Великобритании Тереза Мэй призвала технологические компании удалять экстремистские материалы в течение двух часов после поступления соответствующих жалоб.

Она неоднократно высказывалась в том смысле, что нужно сделать так, чтобы экстремисты не чувствовали, что интернет - это безопасное для них пространство.

По словам Войчицки, с июня на предмет экстремизма было проверено почти 2 млн видео.

Эта работа помогла отработать алгоритмы, на основе которых машины будут выделять видео экстремистского содержания. Благодаря машинному обучению с YouTube было удалено в пять раз больше материалов, чем раньше.

Кроме того, Войчицки рассказала о решительных действиях компании в отношении комментариев. Новая политика позволила заморозить сотни аккаунтов и удалить сотни тысяч комментариев.

Команда хостинга работает вместе с организациями, которые занимаются защитой детей. Вместе с ними они отслеживают агрессию в отношении несовершеннолетних и следят за тем, чтобы содержание видео на нарушало закон.

На этом фоне полиция Великобритании предупреждает, что участились сексуальные преступления в отношении детей с использованием сервисов онлайн-трансляций.

В этом году Google объявила, что потратит 1,3 млн долларов на проекты, помогающие противодействовать экстремизму в Великобритании.

В июне был объявлен список мер, которые с этой же целью принял сервис YouTube.

  • Усовершенствование процесса машинного обучения для поиска и удаления видео.

  • Сотрудничество в 15 новыми экспертными группами, среди которых Антидиффамационная лига, движение No Hate Speech и Институт стратегического диалога.

  • Более жесткая политика в отношения контента, который не является незаконным, но был отмечен пользователями как пропагандирующий ненависть или экстремизм.

  • Переадресация определенных запросов на плейлисты с видео антиэкстремисткого содержания.

фото: pixabay.com

Источник: BBC Russian
Комментарии