Як чат-бот ProPublica перевіряє роботу Facebook з мовою ненависті

Завдяки своєму першому боту Facebook Messenger, ProPublica збирає розповіді читачів про мову ненависті, щоб перевірити виконання соцмережею своїх же правил.

Чи може бот Facebook Messenger, який використовується для збору історій від читачів, також бути новою формою сторітелінгу? ProPublica вважає, що так, пише Річард Білтон у NiemanLab.

Ще в червні ProPublica опублікувала глибоке дослідження алгоритмів, які використовує Facebook для визначення того, що саме він вважає “мовою ненависті” на своїй платформі.

Висновки, які входили до матеріалу ProPublica про так звану “алгоритмічну несправедливість”, були зрозумілими, але трохи засмучували: правила Facebook застосовувались непослідовно, створюючи проблеми як для людей, яких банили без пояснень, так і людей, яким було надано пояснення або право висловитися.

Користувачі можуть поділитися текстом коментарів та скріншотами

ProPublica, прагнучи дізнатись більше про ці секретні алгоритми, використала власну технологію для допомоги. Нещодавно організація випустила свій перший бот Facebook Messenger, призначений для збору розповідей про досвід людей з хейтерськими постами на Facebook.

Використовуючи розмовний інтерфейс Messenger, бот ставить користувачам такі запитання, як «Чи мали ви досвід у написанні хейтерських постів?», «Чи видаляв Facebook цей пост?».

Користувачі також можуть поділитися текстом відповідних коментарів та прямими скріншотами.

Джулія Ангвін, старший кореспондент ProPublica, пояснила, що бот призначений для кількісної оцінки звітності організації про те, як Facebook виконує свої правила.

“Мета — з’ясувати, як правила Facebook насправді реалізуються”

Вся інформація, яку читачі подають (анонімно), вводиться в структуровану базу даних. Це допоможе ProPublica визначити, як Facebook обробляє, скажімо, весь контент, який він вважає “закликом до насильства”, і які закономірності, якщо такі існують, є у його відповідях.

“Мета — з’ясувати, як ці правила насправді реалізуються”, — сказала Ангвін. “Що це означає для людей, які написали повідомлення, яке вони вважають нормальним, але хтось його позначив як хейтерське? Чи все це відповідає нашим уявленням про те, що таке хейтерство?”

Messenger bot, в першу чергу, є способом для людей поділитися своїми історіями з репортерами ProPublica, але також є “іншою формою сторітелінгу”, — сказала Аріана Тобін, кореспондент за сумісництвом у ProPublica.

Незважаючи на те, що існують популярні історії про людей, яких Facebook використовує для модерації своєї платформи (наприклад, січневий допис Едрієна Чена у The New Yorker), багато користувачів Facebook не розуміють людського фактору у прийнятті рішень в модерації мережі.

“Ми розглядаємо це як спосіб повернути звітність та дати її іншій аудиторії, яка може використати та дати реакцію на неї”, — сказала Тобін.

Використання саме Facebook також було важливим для експерименту.

Facebook — найкраще місце для збору історій про досвід роботи людей з платформою

Незважаючи на те, що інформаційні агентства, які бажають масово збирати історії від читачів, завжди мали можливість використовувати інструменти з SurveyMonkey або Google Forms, ProPublica хотіла використати Facebook для цього експерименту, тому що це найкраще місце для збору історій про досвід роботи людей з платформою.

“Якщо ви хочете поговорити зі спільнотою, найкраще це робити там, де вона є”, — вважає Тобін. З іншого боку, організація зрозуміла, що деяким користувачам, які зацікавлені у розповіді своїх історій, буде некомфортно використовувати Facebook (або ж їх вже забанили), тому розробники зробили звичайну форму опитування.

Як зробити чат-бота “дружнім” продуктом, але не занадто балакучим?

Бот, перший у своєму роді для ProPublica, поставив кілька нових викликів і питань для організації. Перший експеримент – як зробити чат-бота “дружнім” продуктом, але не занадто балакучим?

Інша не вирішена ProPublica проблема – це промоушн. Не зважаючи на те, що організація просувала бота на власному сайті, через імейл-розсилку та Twitter, “коефіцієнт доступності є малим”, коли мова йде про ботів Facebook, сказала Тобін.

Використання Facebook Messenger для безпосереднього спілкування з репортерами новинних організацій — це все ще нова ідея для більшості користувачів Facebook, тому ProPublica експериментувала із зміною обкладинки на сторінці Facebook, щоб рекламувати бота, і точно показувала, де саме користувачі повинні натискати, щоб поділитися своїми історіями.

У цьому році ProPublica розглядає інші проекти на базі месенджерів, плануючи експериментувати з іншими програмами для чатів, а також SMS. Одне з найбільших відкритих питань – як ці експерименти будуть спонукати читачів як на початкових, так і на інших етапах, коли фактор новизни у інтерфейсі зникне.

До того ж існують тролі. Надання деяким користувачам можливості поділитися своїми історіями з читачами відкриває такі ж можливості і для порушників.

Але поки що ProPublica цього не бачила: зі 100 відповідей, які організація побачила в перший день (багато з яких Тобін назвала “дуже хорошими”), лише деякі прийшли від людей, які намагаються створити проблеми. Незрозуміло, як це співвідношення зміниться з розширенням аудиторії людей, що дізнаються про проект.

Facebook вжив заходів для підвищення прозорості своїх правил

Зі свого боку, Facebook вжив заходів для підвищення прозорості, принаймні в своїх межах. Минулого тижня він сказав, що найняв колишнього публічного редактора New York Times Ліз Спейд, щоб вона допомогла йому стати більш відкритим та прозорим стосовно своїх рішень про мову ненависті, фейкові новини, тероризм та інші “важкі питання” (Facebook не відповів на запит щодо коментаря про бота ProPublica до публікації).

Але компанія не відповідає на питання, поставлені у дослідженнях ProPublica, тому Ангвін вважає, що робота є дуже важливою для підвищення обізнаності. “Це дуже важливе питання, і Facebook не дає можливості для апеляційного процесу для користувачів, яких це стосується. Їх рішення непрозорі і не мають пояснення. Ми діємо як процес оскарження”.

Також

Як кулінарний гігант Tasty від BuzzFeed виходить в офлайн

Facebook пояснив видавцям роботу стрічки новин

Facebook Explore Feed: що це і чому видавці занепокоєні

Google AMP: більше переглядів, менше грошей?

BuzzFeed запускає нові рекламні продукти, щоб працювати швидше

Тепер кожен автор може заробити на Medium. Як?