Ако искате да държите големите технологии отговорни, фокусирайте се върху вредите

През юли популярна създателка на TikTok съдържание в Малайзия съобщава на местната полиция, че е тормозена в платформата от потребители, които заплашват да я изнасилят и убият. Ден по-късно Раджесвари Апаху, по-известна в интернет като Еша, се самоубива.

По-късно едно от лицата, обвинени в кибертормоз над нея, се признава за виновно в престъпления, свързани с общуването в TikTok, и му е наложена глоба от 100 рингита (23 долара).

Министърът на комуникациите на Малайзия заяви, че самоубийството е било „сламката, която е пречупила гърба на камилата“, докато защитаваше новите строги изисквания за издаване на лицензи за социалните медии в страната, които трябва да влязат в сила през следващата година. Но дали този мащабен и непрозрачен опит за регулиране на големите технологични компании би могъл да предотврати подобна трагедия?

Как да се търси отговорност от технологичните компании за реалните вреди, които възникват от техните услуги, се превърна в най-трудното управленско изпитание на нашето време и в момента се обсъжда по целия свят. Тази седмица X ( бившият Twitter) на Илон Мъск стана неактивен в Бразилия на фона на регулаторни спорове, а миналата седмица Франция повдигна обвинение на основателя на Telegram Павел Дуров за съучастие в престъпления, извършени чрез неговото приложение. Междувременно Марк Зукърбърг, главен изпълнителен директор на компанията майка на Facebook Meta Platforms Inc. обвини правителството на САЩ, че го е притискало да цензурира свързаното с пандемията съдържание в платформите си, което някои политици определят като победа за свободата на словото.

Разнопосочният дебат е в състояние да попадне в един твърде опростен капан, който противопоставя всяко регулиране на мощните големи технологии на свободата на изразяване, а модерирането на съдържанието - на някаква форма на цензура. Реалността обаче е много по-различна. В Малайзия, страна с около 34 милиона етнически, религиозни и културни различия, както и с постоянно пребиваващи в интернет хора, този продължаващ глобален дебат е на път да се изправи пред най-големия си сблъсък.

Страната от Югоизточна Азия заяви, че ще изисква от всички социални медии и платформи за съобщения с повече от 8 милиона потребители да кандидатстват за регулаторен лиценз и да спазват условията, които все още не са уточнени. Компаниите твърдят, че това ще попречи на бизнеса и настояват за саморегулиране. Десетки организации на гражданското общество се опасяват, че това ще подкопае свободата на словото и ще насочи страната „към пътя на авторитарен режим“. Въпреки отзвука, правителството продължава да прилага плана, като твърди, че той цели да ограничи измамите, кибертормоза и да защити младите хора в интернет. И все пак е трудно да се каже какво наистина ще направи този регламент, тъй като насоките не са финализирани.

Малайзийците са прави да се притесняват от ограниченията на речта, и то не по порочен и самоцелен милиардерски начин. Пътищата за свобода на изразяване са стеснени, а правителството продължава да използва репресивни закони, за да заглуши критиците, посочва Амнести интернешънъл в доклад за 2024 г.

Лицензирането се използва и за използване на редакционния контрол в медиите. Тази година Малайзия се срина от 73-то място миналата година до 107-мо място в Световния индекс за свобода на печата на „Репортери без граници“. Тъй като традиционните новинарски екосистеми се свиват, много малайзийци, както и в останалата част на света, се насочиха към изразяване на опозиция онлайн. Сега изглежда, че властите се опитват да цензурират съдържанието и там. Миналата година правителството направи най-голям брой искания за премахване на съдържание в TikTok в световен мащаб, като броят им рязко нарасна от пет такива искания през 2021 г. до 2022 искания през 2023 г.

Опасенията, че този опит за регулиране на социалните медии може да бъде използван за допълнително задушаване на свободата на словото, са основателни. (Местна информационна агенция цитира вицепремиера, според когото лицензирането може да помогне за проверка на разпространението на негативни възприятия за правителството). Малайзийските власти имат право да искат да регулират тази индустрия и схемата за лицензиране показва потенциал, но те трябва да предложат конкретика за това как точно този план ще държи големите технологии отговорни.

Докато не направят това, не е ясно как лицензирането на социалните медии ще предотврати кибертормоза, довел до смъртта на Еша, въпреки че е трудно да си представим, че някой би твърдял, че "троленето" на жена онлайн със заплахи за насилие представлява свобода на словото.

Трябва да започнем отнякъде. Малайзийските законодатели обмислят криминализирането на кибертормоза и намирането на начини за повишаване на отговорността на платформите - дори и без закон за лицензиране. Длъжностни лица заявиха, че TikTok обещава да разгледа какво се е объркало в случая на Еша и да предложи пълна подкрепа, включително увеличаване на броя на модераторите на живи предавания и модераторите на тамилски език. Повече от всичко изглежда, че тази проста стъпка е можела да помогне най-много за предотвратяване на атаките срещу инфлуенсъра.

Битката е отрезвяващо напомняне, че на тези платформи - сега толкова големи и мощни - не може да се разчита като на основни средства за граждански дискурс. Те не са печатници или градски площади, а предприятия с модели на растеж, които по своята същност се противопоставят на социалното сближаване. Разнопосочното, подстрекателско съдържание често води до по-добра ангажираност на потребителите, отколкото по-сложните или скучни истини. Не е толкова просто като свобода на словото срещу модериране на съдържанието, без значение колко пъти Мъск туитва това и след това нарежда на работниците си да го разпространяват.

Политиците трябва да се съсредоточат върху действителните вреди, когато създават регулации. Малайзийското динамично общество показа устойчивост, като се противопостави на опитите за потискане на словото, но нарастващите онлайн злоупотреби също разкриха необходимостта от повече предпазни мерки. Как ще се развие този спор, може да послужи за изпитание на други юрисдикции.

Още по темата

X на Мъск вече мирише на Синдрома на неуспешната социална мрежа

Правителствата vs. Мъск - свободата на словото не значи защита на езика на омразата

Мъск се предложи за позиция във втора администрация на Тръмп, част 1