За същото време, за което препичате филийка хляб, можете да клонирате гласа на президента на САЩ Джо Байдън и да го споделите в социалните мрежи. Бихте могли да го накарате да промълви: "Винаги съм знаел, че Covid-19 е измама, просто е полезно да се преструваме, че е истинска", след което да наложите аудиото върху снимка на усмихващия се президент, да го качите в TikTok, YouTube и Facebook и да чакате.
Тогава ще се случи нещо забавно. Първите два сайта щяха да свалят клипа ви. Но най-голямата платформа - тази с три милиарда потребители - няма да го направи. Facebook щеше да постави предупредителен етикет върху клипа, но щеше да го остави на хората да кликнат върху него, да го слушат и да го споделят с други хора. Тази остаряла политика може да се окаже пагубна в годината на избори, в която има разногласия.
Няколко примера вече показват колко възможен е този сценарий. През септември миналата година фалшив аудиозапис на словашки политически лидер, който "обсъжда" начини за купуване на гласове, беше споделен във Facebook в рамките на няколко дни преди националните избори, на които се водеше ожесточена борба. Компанията майка Meta Platforms Inc. не забранява фалшивите аудиоклипове по същия начин, по който премахва фалшивите видеоклипове, така че Facebook ги остави с етикет, че са били манипулирани. Два дни по-късно лидерът на същата партия губи изборите. Не може да се каже дали това е повлияло на гласовете, но в страната имаше и 48-часово медийно затъмнение преди изборите, което означаваше, че няма кой друг да разобличи фалшификата.
В света на дезинформацията фалшивото аудио може да има по-зловещ ефект от видеото. Докато фалшивите "снимки" на Доналд Тръмп имат лъскав, пластмасов вид, който опровергава машините с изкуствен интелект, стоящи зад тях, фалшивите версии на гласа му са по-трудни за проверка и разграничаване. А гласовете, генерирани от изкуствен интелект, вече могат да звучат свръхреалистично благодарение на редица нови инструменти, първоначално предназначени да помагат на подкастърите и маркетолозите.
Компании като Eleven Labs, Voice AI и Respeecher продават услуги, които могат да синтезират гласове на актьори, така че те да могат например да четат аудиокниги на различни езици, а някои от тях се нуждаят само от няколко минути запис на глас, за да го клонират. Според фирмата за пазарни проучвания Pitchbook през 2023 г. стартиращите компании за гласов изкуствен интелект са набрали около 1,6 млрд. долара от инвеститори в рисков капитал. (Общият ръст на инвестициите в тези компании обаче е намалял през последните две години, отчасти защото по-големи компании като Amazon.com Inc. и OpenAI поемат по-голяма част от бизнеса).
Някои компании, като Respeecher, разполагат с функции за предотвратяване на злоупотреби или изискват разрешение от хората да клонират гласа си. Но това не пречи на други да ги използват. Например наскоро някой клонира гласа на кмета на Лондон и публикува фалшивия аудиоклип в TikTok. В него се чуваше гласът на Садик Хан, който казваше, че Денят на примирието трябва да се отмени в полза на протест в подкрепа на палестинците. "Защо да не се проведе Уикенд на възпоменанието следващия уикенд?" - казва гласът му. Аудиозаписът предизвика възмущение сред британците, които смятат, че честванията на Деня на ветераните в страната трябва да се уважават, но от офиса на Хан заявиха, че клипът е "разпространен и подкрепен от крайнодясна група". За техен вероятен ужас, той беше публикуван отново във Facebook и остава на сайта, поне в един от случаите без предупредителен етикет.
Друг човек генерира фалшив клип, в който лидерът на Лейбъристката партия в Обединеното кралство Киър Стармър уж нарича един от членовете на екипа си "проклет идиот", а във втори фалшив клип Стармър казва, че "мрази Ливърпул". Публикациите бяха видени хиляди пъти в TikTok, преди да бъдат свалени. Конкурентен политик от Консервативната партия насърчи обществеността да го "игнорира".
TikTok премахна клипа на лондонския кмет, а говорителка заяви, че подобни измамни аудиоклипове с участието на политици обикновено биват сваляни, тъй като нарушават политиката. YouTube също премахна публикациите с фалшивия глас на кмета; говорителка заяви, че сайтът сваля "технически манипулирано" съдържание, което може да причини вреда. Twitter има подобно правило, макар че не изглежда да го прилага (например запази фалшивия глас на кмета).
Но залогът във Facebook е по-висок, тъй като той има осем пъти повече активни потребители месечно от Twitter, което прави снизходителността му към фалшифицираните аудиоклипове още по-странна.
Говорител на Фейсбук заяви, че е маркирал и оставил фалшиви аудиозаписи на политици, "за да имат хората точна информация, когато се сблъскват с подобно съдържание в интернет". По-добре е да се остави клип с предупредителен етикет, твърди Facebook, така че когато хората го видят в други сайтове като Twitter или Telegram, да бъдат информирани за неговата неавтентичност.
Но Facebook разчита на разтеглени екипи от проверяващи фактите, които да извършват това етикетиране. "Тези неща се разпространяват в реално време в интернет", казва Стив Новотни, редактор на независимата благотворителна организация за проверка на фактите Full Fact, която работи с Facebook, за да опровергае аудиоклиповете на Хан и Стармър. Той казва, че проверката на клипа на лидера на Лейбъристката партия им е отнела два дни.
Един от проблемите е, че все още няма надеждни технически инструменти за откриване на фалшиви аудиоклипове с изкуствен интелект, така че Full Fact използва старомодни техники за разследване, а екипът му за проверка на факти се състои от едва 13 души. В по-широк план се наблюдава намаляване на броя на хората в компаниите за социални медии, които се занимават с дезинформация. През последните две години Alphabet Inc., Meta и Twitter съкратиха екипите си за доверие и безопасност, за да намалят разходите си, а Meta наскоро закри проект за създаване на инструмент за проверка на факти, според CNBC.
"През ноември разговарях с голяма група проверяващи факти и журналисти от цяла Азия и почти всички виждаха манипулирани аудиозаписи и не бяха сигурни как да ги открият", казва Сам Грегъри, изпълнителен директор на Witness, група за човешки права, фокусирана върху технологиите.
Дори маркираната дезинформация може да се разпространи бързо, преди предупреждението да бъде разбрано правилно. В моменти на бързо споделяне на информация, когато емоциите са високи, не всеки потребител на Facebook или Instagram ще разбере напълно значението на даден етикет или ще му повярва.
Политиката на Facebook да сваля само фалшиви видеоклипове е остаряла. С наближаването на бурните национални избори в Обединеното кралство, Индия, САЩ и други страни, които ще станат още по-объркващи благодарение на инструментите на изкуствения интелект, генериращи всякакъв вид медии и информация, платформата трябва да започне да сваля и измамни аудиоклипове.
Парми Олсън е колумнист на Bloomberg, който пише мнения за технологиите. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата "Ние сме анонимни".