.jpg)
От Райън Галахър
През пролетта на 2021 г., точно преди 32-рата годишнина от клането на площад Тянанмън, потребителите на търсачката Bing на Microsoft в САЩ и Европа забелязват нещо странно. Bing спира да показва известни снимки на Човека пред танка – самотният протестиращ, който блокира колона танкове по време на продемократичните демонстрации през 1989 г. В отговор на запитвания търсачката отговаря: „Няма резултати за „човека пред танка“, проверете правописа си или опитайте с други ключови думи“.
Запитан своевременно за коментар, говорител на Microsoft Corp. обвинява „човешка грешка“. Според три източника, запознати с темата, истинското обяснение, което така и не е разкривано публично досега, е, че по грешка Microsoft е приложила черния списък, който използва в китайската версия на Bing, към целия свят. По този начин, без да иска, компанията е разкрила как Bing работи с Пекин, за да предоставя на китайските потребители стерилизирана версия на интернет.
Редица американски интернет компании са се сблъскали с трудностите при работата си в Китай. След като се виждат принудени да направят сериозни компромиси с теми като цензурата, за да запазят достъпа си до огромния китайски пазар, Google и Yahoo! решават да спрат да оперират собствените си търсачки. Facebook, Snapchat и X (бившият Twitter) изобщо не са достъпни.
За разлика от всички тях, Microsoft продължава да оперира местна версия на Bing от 2009 г. досега и спазва изискванията за цензура на Пекин. Съоснователят Бил Гейтс отдавна проповядва за близка съвместна работа с Китай с цел насърчаване на иновациите в здравеопазването и науката и отхвърля притесненията относно цензурата и влиянието на държавата върху технологиите. Гейтс се оттегли от борда на директорите на Microsoft през 2020 г., но продължава да се среща с китайски лидери. През юни 2023 г. той се видя с президента Си Дзинпин, което за Си беше първата среща с чуждестранен предприемач от години. В хода на разговора Си определи Гейтс като „стар приятел“.
Изпълнителният директор на Microsoft през последното десетилетие Сатя Надела преповтаря усещанията на Гейтс за ползата от предоставяне на интернет услуги дори когато това означава да си сътрудничиш с авторитарни правителства. Надела и другите директори не поставят акцент върху дейността на Microsoft в Китай, като през 2020 г. президентът Брад Смит заявява, че дялът на този пазар представлява само 1,8% от глобалните продажби на компанията.
Макар Китай да осигурява само малка част от приходите на Microsoft, Bing може да се похвали със значителни успехи там. Тя изпревари лидера на общия пазар Baidu Inc., държейки първото място за търсачка за настолни компютри в продължение на 5 месеца през 2023 г. и през януари 2024 г., по данни на инструмента за проследяване на данни StatCounter.
Microsoft е установила партньорства с десетки хиляди китайски компании в секторите търговия на дребно, производство, здравеопазване, автомобилостроене и енергетика. В статия на китайски език на сайта на Microsoft от 2022 г. се казва, че компанията е в „симбиоза“ с китайските си партньори и смята местната си дейност за метод за привличане на таланти и за развиване на дейности, до които не би имала достъп по друг начин. През септември 2022 г. шефът на Microsoft за Китай Янг Ху обявява плановете си да увеличи броя на служителите в страната до над 10 000. Той заявява: „Microsoft ще продължи да развива доверието и решителността си да се развива в Китай“.
В свое изказване говорителят на китайското посолство във Вашингтон Лиу Пенгю казва, че в Китай интернетът е свободен, отворен и в ред, както и че чуждите компании са добре дошли в страната. Написаното от него гласи: „В същото време чуждестранните инвеститори трябва да спазват законите и регулациите на Китай, както и да уважават интересите, културата и традициите на обществото и да поемат полагащата им се отговорност“.
Спазването на тези указания винаги е представлявало риск от негативна реакция в САЩ, като напрежението може да се нажежи допълнително и от повишаване на напрежението между Щатите и Китай, особено по темите, свързани с изкуствения интелект.
От години критиците на компанията твърдят, че дейността й в Китай противоречи на заявения ангажимент към човешките права и демокрацията. Директорът за изследванията за Китай, Хонг Конг и Тайван на базирания в САЩ тинк танк Freedom House заявява, че „това натъжава и ядосва. Microsoft е една от най-големите компании в света, изкарва огромни печалби и твърди, че подкрепя демокрацията и човешките права. Но ако погледнем какво прави в Китай, излиза точно обратното“.
Самата Microsoft се противопоставя на това виждане. В изказване, изпратено по имейл, директорът по комуникациите на Microsoft Франк Шоу твърди: „Bing е търсачката, която търпи най-малко цензура в Китай и често е единственият достъпен източник на огромен обем от информация, въпреки че трябва да премахваме някои резултати, за да спазим китайските закони. Цензурираме резултати само когато е налице конкретна заповед, която според нашето тълкование ни задължава да го правим. Често се противопоставяме, когато смятаме, че дадена заповед не отговаря на правилното тълкуване на китайските правила. Другият вариант е да напуснем този пазар, което би означавало само блокиране на достъпа до информация за много хора, които в момента я получават през Bing”. Компанията обаче не отговаря на серия въпроси по конкретните теми, засегнати в тази статия.
Повече от десет настоящи и бивши служители на Microsoft ни дадоха интервюта, в които за първи път разкриха вътрешна информация за сложната от технологична гледна точка система за цензуриране, която компанията е разработила специално за Китай. Тя се основава на включването на хиляди уебсайтове, думи и изрази в постоянно увеличаващ се черен списък. Всички наши информатори поставиха условието да запазим анонимността им, защото нямат право да разкриват информация пред медии.
Забранените изрази се отнасят до търсения както на английски, така и на китайски в китайската версия на Bing cn.bing.com, и включват понятия като „човешки права“, „климатични промени Китай“ и „Нобелова награда за мир“, по данни от служители и от анализите, направени от Bloomberg Businessweek. В забранения списък влизат и словосъчетания като „корупция Комунистическа партия“, „клане на площад Тянанмън“, „човекът пред танка“, „Далай Лама“, покойния китайски активист за човешки права и лауреат на Нобеловата награда за мир Лиу Сяобо, както и „демокрация“. Потребителите, които зададат търсене с цензурирани резултати, получават следното известие: „резултатите са премахнати в съответствие с известие за местно законово изискване“.
Bing пречиства западни новинарски сайтове и Wikipedia в Китай. Търсения за предполагаемото насилие върху уйгурското етническо малцинство в района Синдзян в Китай показва само резултати, лишени от специфично съдържание, свързано с нарушаване на човешките права и концентрационни лагери. Вместо това резултатите отвеждат към материали от новините и медиите, които отричат наличието на насилие и обвиняват западните правителства в подклаждане на „дезинформационна война срещу Китай“. Показват се и туристически гидове за района. Много други търсения, които включват забранените фрази, също изкарват резултати от китайски правителствени сайтове или от държавните медии, които са в „бял списък“, т.е. никога не се блокират, според служителите. Разбира се, резултатите за търсения за държавната цензура в Китай и как тя да бъде заобиколена, също са забранени.
Bing беше стартиран в Китай на 1 юни 2009 г., точно преди 20-годишнината от събитията на площад Тянанмън. Без да губи време, китайското правителство веднага показа на Microsoft колко агресивно ще е поведението му, като неочаквано блокира достъпа до търсачката. Случката създаде паника в китайския екип на Microsoft, карайки ги да си помислят, че са допуснали техническа грешка и да търсят какво са объркали. Един от директорите, участвал в управлението на падането на търсачката, си спомня следното: „По-късно ни стана пределно ясно, че прекъсването е направено на мрежово ниво. Просто беше изчезнал трафикът към нашата услуга“.
След лавина от разговори между адвокатите на Microsoft и ръководители в китайското правителство в рамките на следващата седмица ограниченията са вдигнати и Bing се връща на линия в Китай. Не е ясно дали Microsoft е направила някакви отстъпки, за да това се случи.
Докато Microsoft свиква с работата в тези условия, Google е на етап отказване. Работата на търсачката на Google в Китай започва през 2006 г. и нарастването на записите в забранения списък от няколкостотин до няколко хиляди предизвиква гнева на служителите от най-ниските нива до върховете на управлението на компанията. След атака над инфраструктурата през януари 2010 г., зад която Google подозира, че стои преследване на китайски дисиденти, които използват услугите на компанията, тя обяви прекратяване на дейността си в страната.
Съоснователят на Google Сергей Брин каза в интервю, че компанията е искала да заяви позиция срещу цензурата и да даде глас на „свободата на политическото несъгласие, което за нас е ключова тема“. По думите му, първоначално Google се е надявал „да развие свободата в интернет“, но се е случило точно обратното. През 2010 г. Гейтс разкритикува решението на Google, твърдейки, че Китай упражнява „много ограничена“ цензура в интернет и че създаването на просперираща мрежа ще донесе положителни резултати. По-късно Google планира да предложи отново цензурирана търсачка в Китай, но се отказва през 2018 г., когато предложенията изтичат в публичното пространство.
Според интервюираните служители, бизнес стратегията на Microsoft по отношение на Bing е да показва по-добри резултати с по-малко реклами от местните конкуренти. През 2016 г. пред компанията се отваря голяма възможност, след като смъртта на един студент се свързва с експериментално лечение против рак, спонсорирано в търсачката на Baidu. Регулаторите принуждават Baidu да премахне рекламите за недоказани медицински лечения и да показва по-ясно кои резултати от търсенето са реклами. Според служителите на Microsoft, в резултат от скандала, се увеличил броят потребители на Bing. В по-късен момент Baidu получава още критики за разпространение на подобни реклами, но заявява, че е положила усилие да изчисти рекламното съдържание на платформата.
Понякога представители на китайското правителство уведомяват Microsoft, че някои теми не могат да бъдат засягани, обичайно установявайки контакт с адвокатите на компанията. Служителите споделят, че понякога дори се посочва какво трябва да бъде премахнато.
Но самостоятелната работа на Microsoft е по-ефективна. С течение на времето компанията е развила способността да предполага на кое конкретно съдържание ще се противопостави Пекин. Изследователи от Гражданската лаборатория на Университета в Торонто публикуваха доклад през април 2023 г., в който се анализират 500 000 цензурирани ключови думи и имена в различни търсачки в Китай. Техните заключения са, че като цяло Baidu търпи по-малко цензура от Bing, но Bing ограничава достъпа до политическо и религиозно съдържание по по-агресивен начин от Baidu.
Бивши служители на Microsoft смятат, че подобен тип автоцензура е ясно бизнес решение. „Ако потърсиш „6/4“ – начинът, по който хората наричат клането на Тянанмън – ние просто не ти показваме никакви резултати“ – казва бивш директор, който е участвал в процеса на пускане а Bing, и добавя: „Относително лесно решение за бизнеса е да приложиш преувеличени филтри за по-голяма сигурност. Смятам това решение за много рационално. Друг въпрос е дали е правилно по отношение на свободата на словото и каквото и да било друго“.
Днес заявките на потребителите на Bing в цял Китай преминават през сървъри, разположени в континенталната част на страната, които прилагат филтър, за да гарантират, че няма да проникне цензурираната информация. Процесите са подобни на тези, които Microsoft и Google прилагат в други държави във връзка със законите за детска порнография или авторски права. Разликата е само в съдържанието, което бива блокирано.
Отново според служителите, технологията на цензуриране се основава на системи за машинно обучение, които анализират текст, изображения и метаданни и сканират уебстраниците, за да преценят дали може да нарушават местните закони и регулации. Те добавят, че софтуерът генерира оценка на всяка страница, която показва степента на чувствителността на данните.
Microsoft твърди, че не използва автоматизирани процеси, за да идентифицира ново съдържание, което подлежи на блокиране. Забраненият списък се изготвя от експерти в местната тематика, които добавят или премахват съдържание и проверяват съдържанието, което е отбелязано от автоматичната система. В Китай това се прави от малък инженерен екип, съставен до голяма степен от китайци. Повечето служители на китайския отдел на Microsoft също са местни. Работата по цензурата се счита за особено чувствителна и, според интервюираните, се пази строго вътре в границите на компанията.
Бивш инженер, който е работил по китайската версия на Bing, разказва, че „с течение на времето списъкът теми се променя. Има различно ниво на чувствителност. Днес търсенето на „Мечо Пух“ е цензурирано, защото Мечо Пух се използва като обидно название за Си Дзинпин. При предишния президент нямаше такива ограничения. Това са неща, които трябва да се знаят“.
Независимо от различните специфики на развитие, промените на черния списък обикновено означават удължаването му. Четирима от бившите служители, които са били заети с Bing, казват, че са споделяли с мениджъри и колеги притесненията си относно нарастващия обхват на цензурата, независимо един от друг и в различни периоди, обхващащи общо 8 години. Двама от тях казват, че са се позовавали на твърдението на Microsoft, че поема ангажимент да помага на хората да използват технологията, „за да защитават и разпространяват демокрацията, доброто управление и върховенството на закона“, както и за да защитават и развиват „свободата на мнение, изразяване, сдружаване, мирно заседаване и други човешки права“.
Служителите, които са повдигали тези теми, споделят, че отговорът е бил, че компанията трябва да спазва законите на Китай, за да продължи да развива дейност там. В отговор на вътрешни и външни критики за работата си в държавата, двама от служителите споделят, че директорите на Microsoft изтъквали публикувано през 2012 г. становище за човешките права, в което било поместено стандартното оправдание на американските компании, които развиват дейност в държави с авторитарни правителства. То гласи: „Дейността ни зачита човешките права по-ефективно чрез присъствието ни в държави, в които има сериозен риск за човешките права, отколкото чрез отсъствието ни от тях“.
Понякога Microsoft отхвърля правителствената цензура. През 2013 г. компанията престава да блокира изписването на определени думи в съобщения в китайската версия на приложението Skype. Властите забраняват програмата през 2017 г. През 2021 г. Microsoft закрива китайската версия на LinkedIn, докато активистки групи за човешките права заявяват, че компанията често е цензурирала критично съдържание, засягащо китайското правителство, както и че е блокирала профилите на китайски журналисти.
Не изглежда обаче компанията да има намерение да направи подобни стъпки по отношение на Bing. Служителите предполагат, че това може да се дължи на факта, че търсачката е много дълбоко интегрирана в другите продукти , например в старт менюто на Windows. Bing е търсачката по подразбиране на браузъра Microsoft Edge, който се инсталира като част от Windows. Windows е инсталиран на компютри в Китай между 300 и 500 милиона пъти, по данни на служителите. Microsoft дори предлага специална версия на Windows за китайското правителство.
Интервюираните добавят, че значимостта на китайския технологичен талант за изследователската и развойната дейност на Microsoft също е важен фактор в този аспект. Според тях, Bing е особен случай, по който работи най-големият екип от разработчици на Microsoft на друг континент, имайки предвид колко работа по платформата за търсене се извършва от екипите от хиляди хора, базирани в Китай. Китайските инженери играят съществена роля в поддръжката и развитието на глобалната платформа за търсене на Bing. Те заемат и уникална и доста противоречива позиция в компанията, тъй като работят по опции, които са забранени в Китай, но са достъпни в други държави, като например инструментът Copilot на Bing, който се развива с ИИ, използвайки частично GPT-4 на OpenAI.
Участието на китайски работници в напреднали проекти с ИИ поставя Microsoft в уязвима позиция по нов начин. Подходът на компанията винаги е бил към техническото развитие като глобално начинание, в което разработчиците трябва да са свободни да работят трансгранично.
Геополитически фактори обаче ограничават рамката, тъй като и Пекин, и Вашингтон имат своите методи в състезанието за развитие на стратегически ключов ИИ. През януари New York Times докладва за разговори между американски правителствени представители и Microsoft дали трябва да продължи работата на ИИ лабораторията на компанията в Китай. Компанията заявява, че в лабораторията има защитни механизми, но няма гаранция, че те ще оборят окончателно притесненията на Вашингтон. Американските депутати от целия политически спектър критикуват китайския опит с човешките права, а за все по-голяма група, която се радикализира все повече, почти всяко взаимоотношение с китайски компании предсатвлява заплаха за националната сигурност на САЩ.
В публичното обсъждане в Давос, Швейцария през януари, Надела постави дейността на компанията в Китай в рамките на промотиране на американските интереси, твърдейки че в някакъв смисъл тя насочва познанието на китайците към производство на американска технология. Той заяви: „Опитваме се да използваме човешкия капитал по цял свят, за да допринасяме за онова, което в крайна сметка представлява американска интелектуална собственост. Когато разглеждам документите за машинното обучение, написаното на мандарин и на английски е горе-долу еднакво по обем“.
Дейността на компанията в Китай също се описва като начин за повишаване на отвореността: „Урокът от историята, поне както го разчитам аз, е че най-голямата грешка, която една цивилизация или едно общество може да допусне, е по някакъв начин да се откъсне от знанието, което се ражда другаде“.
В тези изказвания Надела не говори пряко за местната цензура върху Bing, а критиците отбелязват, че примерът с Китай вече служи за модел, по който други правителства се опитват да изолират собствените си народи от информация, която политически не им е изгодна. Индия например копира някои от елементите на интернет политиката на Китай. Русия също е поискала от Microsoft да премахне хиляди елементи съдържание от платформи като Bing, включително линкове към уебсайтове и новини на политическите опозиционери. В много случаи компанията го е изпълнявала, според интервюираните.
Microsoft заявява, че премахването на съдържание за Китай не влияе на останалия свят. Инцидентът с Човека пред танка от 2021 г. обаче показва, че антилибералните употреби на интернет могат да проникват през границите. През май 2022 г. изследователите от Гражданската лаборатория открили, че опцията за подсказки на Bing цензурира имена, които за Китай са политически чувствителни, включително при търсения в Щатите и Канада. Джефри Нокъл, старши изследовател от Гражданската лаборатория заявява: „Изглежда неизбежно, ако налагаш цензура за една част от потребителите си, не можеш едновременно с това да улесняваш свободата на словото за другите“.
