Facebook "нацькував" штучний інтелект на тероризм. Але фахівці вказують на недоліки

Facebook задіє штучний інтелект для боротьби з тероризмом. Компанію вже не раз критикували за недостатній внесок у спільну справу, пише Нью-Йорк Таймс. Минулого місяця Прем'єр-міністр Великобританії Тереза ​​Мей закликала інтернет-компанії, включаючи Facebook, сприяти контролю і ретельно відстежувати неприпустимі матеріали. «Ми не можемо дати цій ідеології можливість розвиватися. Але це саме те, що надає інтернет - можливості для розвитку різних ідеологій», - заявила вона.

У відповідь на скарги Facebook оголосив, що буде використовувати штучний інтелект для усунення неналежного вмісту. Технології будуть використовуватися для пошуку екстремістських публікацій у мережі.

Штучний інтелект буде використовуватися в роботі модераторів, які розглядають кожну конкретну публікацію. У команді Facebook зараз задіяно 150 фахівців, що працюють на 30 мовах. Без людського аналізу тут все одно не обійтися, адже саме людина може зрозуміти опубліковане в контексті.

Початкова мета моніторингу - визначення вмісту, який явно порушує правила користування соціальною мережею, наприклад, фото - зображення страт. Цей контроль буде працювати вже на етапі завантаження відео на сайт.
У блозі, опублікованому в четвер, розробники описали, що система сама навчить себе визначати ключові фрази, які до цього вже були помічені у використанні відомими терористичними організаціями.

Та ж система навчиться визначати користувачів соціальних мереж, які асоціюються з одними і тими ж групами або сторінками, які просувають екстремістські матеріали. Або користувачів, які повертаються знову і знову з несправжніми сторінками для просування подібної ідеології.

Головним завданням зараз є визначення того, що кваліфікується, як тероризм. Адже це поняття набагато ширше, і може вживатися не лише щодо Ісламської держави.

Дж.М. Бергер, співробітник Міжнародного центру протидії тероризму, каже: «Проблема, як завжди, у визначенні - що таке екстремізм? Вони говорять тільки про Аль-Каїду й ІДІЛ або ж вони підуть далі, щоб нейтралізувати пости білих націоналістів і неонацистів?»

Моніка Бікерт, глава управління міжнародною політикою Facebook, відповіла, що поки технології будуть вузько спрямованими, але вона сподівається, що в майбутньому вони зможуть подолати будь-які порушення користувальницької угоди.

Водночас деякі фахівці вказують, що немає гарантій, що нова програма Facebook буде ефективною, оскільки вона може отримати надмірні повноваження. "Вони хочуть перешкоджати людям вступати до терористичних організацій або ж перешкоджати їм писати про тероризм у Facebook?», - запитує один із таких фахівців.