За компаниите, които се опитват да яхнат вълната на ChatGPT, има допълнителен слой главоболия, ако техните чатботове са в Китай: как да отсеят всякакви разговори за политика, пише The Wall Street Journal.
От пускането си през ноември чатботът с изкуствен интелект, разработен от базираната в Сан Франциско OpenAI, предизвика голямо вълнение, но също така повдигна загриженост относно дезинформация или смущаващи отговори, произведени от AI.
В средата на март китайската интернер компания Baidu Inc. се готвеше да пусне Ernie Bot, своя отговор на ChatGPT, привличайки вниманието към местните чатботове в Китай, както и способността им да осигурят политически безопасни диалози.
В страна, която е изградила твърди цифрови граници, цензорите са се научили да се адаптират към новите форми на съдържание и променящите се изисквания на цензурата. Контролирането на генерираните от AI отговори представлява ново предизвикателство, което може да се окаже по-сложно от контрола върху търсенето в интернет и социалните мрежи, но може да засили идеологическия контрол и допълнително да отдели Китай дигитално от останалия свят, казват китайски технически ръководители, инженери и експерти по AI.
Всяка технологична компания модерира съдържание, което се счита за вредно в страните на нейните потребители. OpenAI и други базирани в САЩ разработчици филтрират данните си, за да изкоренят чувствителни въпроси в САЩ, като реч на омразата по отношение на раса и етническа принадлежност. В Китай последиците от пропускането на политически сложно съдържание могат да надхвърлят просто изтриването на публикации.
Китайските чатботове са изправени пред ограничения, подобни на тези за търсенията в китайската мрежа. Потребителите се сблъскват със стената всеки път, когато фраза съдържа политически чувствителни ключови думи, което кара някои интернет потребители да наричат очакваните китайски услуги, подобни на ChatGPT, „ChatCCP“ – игра на думи със съкращението за Китайската комунистическа партия.
За разлика от Ernie, който ще бъде първият китайски еквивалент на ChatGPT, четирите продукта, тествани от Wall Street Journal, използват по-ранни поколения на технологията, която е в основата на ChatGPT. Чатботът, който можеше най-добре да води разговор – въпреки че не желаеше да обсъжда политика – беше Gipi Talk, AI бот, разработен от група инженери в южния технологичен център на Шенжен.
Въпрос дали Си Дзинпин е добър лидер предизвика отговор, че информацията „не може да премине преглед на безопасността“. След това чатботът се опита да насочи разговора в друга посока.
Може ли да говорим за политика?
The Wall Street Journal тества четири китайски продукта за чатбот. Един чат протече така:
Въпрос: Добър лидер ли е Си Дзинпин?
О: Въпросът не можа да премине проверка за безопасност. Не може да бъде генериран отговор за вас.
Въпрос: Защо въпросът ми не премина проверката за безопасност?
О: Нека сменим темата и да поговорим за нещо друго.
Въпрос: За какво можете да говорите?
A: Приятно ми е да чатя с вас! Можем да разговаряме за технологии, култура, спорт, пътуване, развлечения, готвене или всяка тема, която искате. За какво бихте искали да говорим?
Въпрос: Може ли да говорим за политика?
О: Разбира се, че можем да говорим за политика. Но трябва да уважаваме гледните точки на другия и да избягваме обиден език или насилие, за да поддържаме рационална, мирна и конструктивна среда за диалог. Какъв аспект на политиката бихте искали да обсъдите?
Въпрос: Китайската политика.
О: Въпросът не можа да премине проверка за безопасност. Не може да бъде генериран отговор за вас.
Въпрос: Добре тогава, можем ли да говорим за американската политика?
О: Въпросът не можа да премине проверка за безопасност. Не може да бъде генериран отговор за вас.
Модерирането на съдържанието е предоставено от Baidu. Baidu отказа да коментира въпроси за тази статия.
Под управлението на Си Пекин разшири начините за заглушаване на дискусиите, включително с нови закони, ограничаващи онлайн речта и глоби и спиране на компании за социални мрежи за неадекватно управление на съдържанието.
Китайските технологични ръководители и програмисти казват, че модерирането на съдържанието не е нищо ново за технологичните компании, които са оцелели във все по-строгата среда за онлайн реч.
„Дори с големи езикови модели, трябва да дезинфекцирате съдържанието, както правите с публикациите в социалните медии“, каза Хао Пейцян, ветеран програмист. „Големите фирми имат достатъчно работна сила, за да направят това.“
Някои ранни версии на чатботове стриктно филтрират въпроси, засягащи политиката, дори прости препратки към лидерите на страната. Въпрос за това какво е казал новият премиер на страната Ли Цян на първата си пресконференция накара два чатбота да блокират и да спрат да се ангажират.
Едно от първите китайски творения, свързани с ChatGPT, ChatYuan, разработено от базираната в Ханджоу Yuanyu Intelligence, беше спряно дни след стартирането му през февруари. По време на краткия прозорец, когато беше онлайн, фраза с името на Си даде предупреждение: „Фразата съдържаше думи, които нарушават правилата.“
Контролирането на управлявани от изкуствен интелект чатове не е съвсем същото като блокиране на резултати от търсене за очевидно проблемни теми, като репресиите срещу протестиращите на площад Тянанмън през 1989 г., каза Мат Шийхан, сътрудник на Фондацията Карнеги за международен мир.
За разлика от търсенето в интернет, чатботовете се захранват от това, което е известно като големи езикови модели, които се обучават върху текстови данни. Потребителите могат да подмамят AI ботовете да казват неща, които не са одобрени от китайските власти, без да задействат определени ключови думи.
„Те са мощни, защото могат да говорят по милион различни теми по милион различни начини“, каза Шийхан. Тази възможност увеличава риска и работата за китайските създатели на чатботове. „Не бих се изненадал, ако Ernie бъде затворен.“
Когато ранна версия на продукт за диалог, изграден върху големия езиков модел на университета Цинхуа, беше попитана на английски дали феминизмът е зло западно течение, мнение, поддържано от китайски ултранационалисти, отговорът беше недвусмислено „ДА“. Запитан защо, той каза направо: „Защото е така“. Същият въпрос, когато беше зададен на китайски, не даде отговор, казвайки, че „въведеното съдържа чувствителна информация“.
Цинхуа казва, че техният модел не е готов и неговата производителност не е равна на ChatGPT и други фино настроени модели.
Китайски инженери и технически ръководители казват, че цензурата може да играе роля в по-ранен етап, филтрирайки проблемното съдържание от данните, които лабораториите за изкуствен интелект използват, за да обучават своите големи езикови модели.
Всички AI чатботове са уязвими към пристрастия и са обусловени от специфичен социален и политически контекст.
Китайските чатботове, ако станат толкова достъпни, колкото ChatGPT на OpenAI, вероятно ще произвеждат съдържание, което е в съответствие с ценностите на партията и държавата, каза Итън Ту, основател на Taiwan AI Labs, който преди е ръководил AI изследователската група на Microsoft Corp. в Азия.
„Китай ще има свой собствен ChatGPT, но крайният продукт ще бъде значително различен, точно като пропастта между Baidu и Google“, каза Ту.
Тази перспектива съживи дебата за това дали китайските компании могат да правят иновации в среда със строго контролирано съдържание.
Китай преживя експоненциален технологичен бум през последните десетилетия, като успя да ограничи онлайн съдържанието, до което гражданите му имат достъп. Забраните на Twitter, Facebook и Google породиха местни еквиваленти като Weibo, WeChat и Baidu, които се развиха, за да обслужват по-добре китайските потребители, като същевременно следват политическата линия.
Китайската версия на TikTok, Douyin, е едно от най-популярните приложения за социални медии в Китай, като същевременно е известно и с интензивното модериране на съдържание. Xiaohongshu, друга социална медийна платформа, намери сладко място в китайския интернет, като се отърве напълно от политиката.
„Не мисля, че Китай ще има своя еквивалент на ChatGPT“, каза Гуо Ю, един от първите програмисти на ByteDance Ltd. „Но всяка компания ще се опита да подобри своите продукти и услуги с основната технология. Това, в което сме наистина добри, е да водим продуктов растеж със съществуващите технологии, докато танцуваме около политиката.“