Алгоритмам соціальних мереж, у їхньому загальновідомому вигляді, вже 15 років.
Вони з’явилися разом із запуском Facebook персоналізованих стрічок новин у 2009 році та докорінно змінили нашу взаємодію в мережі.
І, як і багато підлітків, вони створюють виклики для дорослих, які прагнуть обмежити їхні надмірності.
Це не через брак спроб. Лише цього року уряди по всьому світу намагалися обмежити вплив шкідливого контенту та дезінформації в соціальних мережах – ефекти, що посилюються алгоритмами.
У Бразилії влада тимчасово заборонила X, раніше відомий як Twitter, доки платформа не погодилася призначити юридичного представника в країні та заблокувати перелік акаунтів, які влада звинуватила в поставленні під сумнів легітимності останніх виборів у країні.
Тим часом ЄС запровадив нові правила, що загрожують штрафувати технологічні компанії на 6% від їхнього обороту та призупиняти їхню діяльність, якщо вони не зможуть запобігти втручанню у вибори на своїх платформах.
У Великій Британії новий закон про безпеку в мережі має на меті змусити соціальні мережі посилити модерацію контенту.
А в США запропонований закон може заборонити TikTok, якщо додаток не буде продано його китайською материнською компанією.
- Прослухати статтю у виконанні Ніколаса Барретта
Уряди стикаються з обвинуваченнями в обмеженні свободи слова та втручанні в принципи інтернету, закладені на його ранніх етапах.
У есе 1996 року, яке було перевидано на 500 вебсайтах – тоді це був найближчий аналог вірусності – американський поет і фермер Джон Перрі Барлоу стверджував: «Уряди Індустріального Світу, ви, втомлені гіганти з плоті та сталі, я приходжу з Кіберпростору, нового дому Розуму. Від імені майбутнього я прошу вас, з минулого, залишити нас у спокої. Вас не вітають серед нас. Ви не маєте суверенітету там, де ми збираємося».
Адам Кандоуб, професор права та колишній радник президента Трампа, який називає себе абсолютистом свободи слова.
«Соціальні мережі поляризують, вони розбратовують, вони грубі, вони не підносять – я думаю, це жахливий спосіб ведення публічного дискурсу», – каже він BBC. «Але альтернатива, до якої, я думаю, прагнуть багато урядів, – це зробити їх інструментом соціального та політичного контролю, і я вважаю це жахливим».
Професор Кандоуб вважає, що якщо «немає чіткої та невідкладної небезпеки», спричиненої контентом, «найкращий підхід – це ринок ідей та відкритість до різних точок зору».
Межі цифрового громадського простору
Ідея «ринку ідей» підживлює погляд на соціальні мережі як на платформу, що забезпечує рівні умови, дозволяючи всім голосам бути почутими однаково. Коли Ілон Маск у 2022 році придбав Twitter (тепер перейменований на X), він заявив, що бачить платформу як «цифровий громадський простір».
Але чи не враховує це роль алгоритмів?
За словами американського юриста та лектора з глобальних питань Єльського університету Аші Рангаппи, Маск «ігнорує деякі важливі відмінності між традиційним громадським простором та онлайн-простором: скасування всіх обмежень на контент без врахування цих відмінностей зашкодить демократичним дебатам, а не допоможе їм».
Концепція «ринку ідей», запроваджена у справі Верховного суду на початку 20-го століття, на думку Рангаппи, «базується на припущенні, що ідеї мають конкурувати одна з одною без державного втручання». Однак, стверджує вона, «проблема в тому, що платформи соціальних мереж, такі як Twitter, зовсім не схожі на реальний громадський простір».
Натомість, стверджує Рангаппа, «функції платформ соціальних мереж не сприяють вільної та справедливої конкуренції ідей з самого початку… «цінність» ідеї в соціальних мережах є не відображенням її якості, а продуктом алгоритму платформи».
Еволюція алгоритмів
Алгоритми можуть відстежувати нашу поведінку та визначати, що бачать мільйони з нас, коли ми входимо в мережу – і, для декого, саме алгоритми зруйнували вільний обмін ідеями, можливий в інтернеті на його зорі.
«На ранніх етапах соціальні мережі функціонували як свого роду цифровий громадський простір, де мова поширювалася вільно», – кажуть BBC Кей Раймер і Сандра Пітер, професори бізнес-школи Сіднейського університету.
Однак, «алгоритми на платформах соціальних мереж фундаментально змінили природу свободи слова, не обов’язково обмежуючи те, що можна сказати, а визначаючи, хто бачить певний контент», – стверджують професори Раймер і Пітер, чиї дослідження стосуються того, чому потрібно переосмислити свободу слова в соціальних мережах.
«Замість вільної конкуренції ідей за їхніми якостями, алгоритми посилюють або пригнічують охоплення повідомлень… впроваджуючи безпрецедентну форму втручання у вільний обмін ідеями, яка часто залишається непоміченою».
Facebook є одним із піонерів рекомендаційних алгоритмів у соціальних мережах, і, маючи близько трьох мільярдів користувачів, його стрічка, мабуть, є однією з найбільших.
Коли 15 років тому платформа запровадила алгоритм ранжування на основі даних користувачів, замість бачити пости в хронологічному порядку, люди бачили те, що Facebook хотів, щоб вони бачили.
Визначаючи взаємодію з кожним постом, це призвело до пріоритезації постів про суперечливі теми, оскільки вони приносили найбільшу залученість.
Формування нашої мови
Оскільки спірні пости з більшою ймовірністю отримують винагороду від алгоритмів, існує можливість, що на периферії політичної думки можуть бути надмірно представлені в соціальних мережах. Замість вільних та відкритих громадських форумів, критики стверджують, що соціальні мережі натомість пропонують спотворене та сенсаційне дзеркало громадських настроїв, яке перебільшує розбрат і приглушує погляди більшості.
Отже, хоча платформи соціальних мереж звинувачують уряди в загрозі свободі слова, чи не може виявитися, що їхні власні алгоритми також ненавмисно становлять загрозу?
«Рекомендаційні механізми не блокують контент – натомість саме правила спільноти обмежують свободу слова, відповідно до переваг платформи», – каже BBC Тео Бертрам, колишній віце-президент з питань державної політики TikTok.
«Чи роблять рекомендаційні механізми велику різницю в тому, що ми бачимо? Так, безумовно. Але чи успішний ви чи зазнаєте невдачі на ринку уваги – це не те саме, що чи маєте ви свободу говорити».
Однак, чи «свобода слова» – це виключно право говорити, чи також право бути почутим?
Як зазначив професор комп’ютерних наук Принстонського університету Арвінд Нараянан: «Коли ми говоримо в мережі – коли ділимося думкою, пишемо есе, публікуємо фото чи відео – хто нас почує? Відповідь значною мірою визначається алгоритмами».
Визначаючи аудиторію для кожного опублікованого контенту, платформи «розривають прямий зв’язок між мовцями та їхньою аудиторією», – стверджують професори Раймер і Пітер. «Мова більше не організовується за мовцем та аудиторією, а за алгоритмами».
Вони стверджують, що це не визнається в поточних дебатах щодо свободи слова, які зосереджені на «мовній стороні мови». І, на їхню думку, це «безпрецедентним чином втручається у свободу слова».
Алгоритмічне суспільство
Наша епоха була названа «алгоритмічним суспільством» – такою, в якій, можна стверджувати, платформи соціальних мереж і пошукові системи керують мовою так само, як колись це робили національні держави.
Це означає, що прямі гарантії свободи слова в Конституції США можуть завести лише до певної межі, за словами Джека Балкіна з Єльського університету: «Перша поправка, як її зазвичай тлумачать, просто недостатня для захисту практичної можливості говорити».
Професори Раймер і Пітер погоджуються, що законодавство має наздогнати. «Платформи відіграють набагато активнішу роль у формуванні мови, ніж це зараз визнає закон».
І, на їхню думку, має змінитися й спосіб моніторингу шкідливих постів. «Нам потрібно розширити наше мислення про регулювання свободи слова. Поточні дебати, зосереджені на модерації контенту, не враховують глибшої проблеми того, як бізнес-моделі платформ стимулюють їх до алгоритмічного формування мови».
Хоча професор Кандоуб є «абсолютистом свободи слова», він також висловлює занепокоєння щодо влади, сконцентрованої в платформах, які можуть бути воротарями мови за допомогою комп’ютерного коду. «Я думаю, нам було б добре, якби ці алгоритми були публічними, тому що інакше нас просто маніпулюють».
Однак, алгоритми нікуди не зникнуть. Як каже Бертрам: «Різниця між громадським простором і соціальними мережами полягає в тому, що в соціальних мережах є кілька мільярдів людей. Існує право на свободу слова в мережі, але не право на те, щоб кожен був почутий однаково: знадобиться більше, ніж життя, щоб переглянути кожен відео TikTok або прочитати кожен твіт».
Що ж тоді є розв’язанням? Чи можуть скромні корективи до алгоритмів сприяти більш інклюзивним розмовам, які більше нагадують ті, що відбуваються особисто?
Нові платформи мікроблогів, такі як Bluesky, намагаються надати користувачам контроль над алгоритмом, який відображає контент, і відродити хронологічні стрічки минулого, вірячи, що це забезпечує менш опосередкований досвід.
У свідченнях Сенату у 2021 році викривачка Facebook Френсіс Хауген заявила: «Я є сильним прихильником хронологічного ранжування, упорядкування за часом… тому що ми не хочемо, щоб комп’ютери вирішували, на чому ми зосереджуємося, ми повинні мати програмне забезпечення, яке масштабоване до людини, або люди повинні вести розмови між собою, а не комп’ютери, які сприяють тому, кого ми чуємо».
Однак, як зазначив професор Нараянан, «хронологічні стрічки не є… нейтральними: вони також піддаються ефектам «багатий стає багатшим», демографічним упередженням та непередбачуваності вірусності. На жаль, не існує нейтрального способу розробки соціальних мереж».
Платформи пропонують деякі альтернативи алгоритмам, зокрема, користувачі X можуть вибрати стрічку лише від тих, кого вони відстежують. І фільтруючи величезні обсяги контенту, «рекомендаційні механізми забезпечують більшу різноманітність та відкриття, ніж просто відстеження людей, яких ми вже знаємо», – стверджує Бертрам. «Це відчувається як протилежність обмеженню свободи слова – це механізм для відкриття».
Третій шлях
За словами американського політолога Френсіса Фукуями, «ні саморегулювання платформ, ні форми державного регулювання, що наближаються» не можуть вирішити «питання свободи слова в мережі». Натомість він запропонував третій шлях.
«Проміжне програмне забезпечення» (middleware) могло б надати користувачам соціальних мереж більше контролю над тим, що вони бачать, із незалежними сервісами, що забезпечують певну форму курації, окрему від вбудованої на платформах. Замість того, щоб отримувати контент відповідно до внутрішніх алгоритмів платформ, «конкурентна екосистема постачальників проміжного програмного забезпечення… могла б фільтрувати контент платформи відповідно до індивідуальних уподобань користувача», – пише Фукуяма.
«Проміжне програмне забезпечення відновило б свободу вибору для окремих користувачів, чия агентність повернула б інтернет до того різноманітного, багатоплатформенного системи, якою він прагнув бути ще в 1990-х».
За відсутності цього, можуть бути способи, якими ми зараз можемо покращити своє відчуття агентності під час взаємодії з алгоритмами. «Регулярні користувачі TikTok часто дуже цілеспрямовані щодо алгоритму – даючи йому сигнали для заохочення або заохочення рекомендаційного механізму до нових відкриттів», – каже Бертрам.
«Вони бачать себе кураторами алгоритму. Я думаю, це корисний спосіб мислення про виклик – не про те, чи потрібно нам вимкнути алгоритми, а про те, як забезпечити, щоб користувачі мали агентність, контроль і вибір, щоб алгоритми працювали на них».
Хоча, звісно, завжди існує небезпека, що навіть коли ми самі куруємо свої алгоритми, ми все одно можемо потрапити в ехокамери, які обтяжують соціальні мережі. І алгоритми можуть не робити того, що ми від них просимо – розслідування BBC виявило, що коли молодий чоловік намагався використати інструменти на Instagram та TikTok, щоб сказати, що його не цікавить жорстокий або мізогінний контент, йому все одно його рекомендували.
Незважаючи на це, є ознаки того, що з наближенням до зрілості алгоритмів соціальних мереж їхнє майбутнє може бути не в руках великих технологій чи політиків, а в руках людей.
Згідно з недавнім опитуванням дослідницької компанії Gartner, лише 28% американців кажуть, що їм подобається документувати своє життя публічно онлайн, порівняно з 40% у 2020 році. Натомість люди стають більш комфортними в закритих групових чатах із надійними друзями та родичами; просторах з більшою підзвітністю та меншою винагородою за шок та провокації.
Meta стверджує, що кількість фотографій, надісланих у прямих повідомленнях, зараз перевищує кількість тих, що поширюються для всіх.
Так само, як Барлоу в своєму есе 1996 року сказав урядам, що їх не вітають у Кіберпросторі, деякі онлайн-користувачі можуть мати подібне повідомлення для алгоритмів соціальних мереж. Наразі залишаються конкуруючі бачення того, що робити з неслухняним підлітком інтернету.