Социалните медии са маслото в огъня на AI фалшивите новини

Дълбокофалшивото съдържание, което виждаме сега, съвсем скоро ще се превърне в лавина. Задържането ѝ няма да е в ръцете на Олтман от OpenAI, а на Зукърбърг, Мъск и други, които наблюдават социалните платформи, изобилстващи от фалшификати

20:20 | 19 януари 2024

Автор: Галина Маринова

Снимка: Bloomberg LP

Когато световните лидери се събраха в Давос тази седмица, мнозина се притесниха за най-големия риск на Световния икономически форум за 2024 г: Дезинформация, генерирана от изкуствен интелект.

OpenAI е "доста фокусирана" върху спирането на политическата злоупотреба с инструменти като ChatGPT, заяви нейният главен изпълнителен директор Сам Алтман на събитие на Bloomberg в рамките на конференцията във вторник. Компанията му представи нови инструменти за предотвратяване на дезинформацията в годината на големите избори в САЩ. Тези усилия са похвални, но лидерите на швейцарската компания не трябва да забравят колко значителна роля все още играят добрите стари социални медии в нарушаването на изборите и самата демокрация.

Без значение колко реалистични са детайлите на фалшивата снимка на Джо Байдън или колко убедителен е фалшивият аудиозапис на британски политик, истинското въздействие на изкуствения интелект ще се определи от това доколко дълбоките фалшификати се разпространяват в платформи като Facebook, Twitter и TikTok. А това разпространение ще бъде по-трудно за проследяване, отколкото по време на предишните избори в САЩ през 2016 г. и 2020 г. Този път нещата, които не попадат в мрежата, също могат да се окажат проблем.

Още по темата

Алтман от OpenAI: И двете партии мразят изкуствения интелект

AI и машинното самообучение - инструменти за подобряване на устойчивостта в модата

Във Facebook например 100 видеореклами достигнаха до десетки хиляди хора в Обединеното кралство през по-голямата част от декември, показвайки дълбоко фалшиво видео на министър-председателя Риши Сунак, който подкрепя борсова измама. Видеоклипът започва с новинар на Би Би Си, който твърди, че Сунак печели "колосални суми" пари от проект с Елон Мъск, а след това се прекъсва с министър-председателя на трибуната, който искрено казва, че може да "гарантира за надеждността на тази инвестиционна платформа".

Всичко това е измама, разбира се. Жертвите кликват върху уебсайт и се регистрират за нещо, наречено "квантов изкуствен интелект", преди да им звънне оператор от кол-център, който ги насърчава да изпратят пари в биткойн, според Маркъс Биърд, бивш служител по комуникациите в британското правителство, превърнал се в консултант, който е провел изследване на дълбоко фалшивите реклами. Измамниците се обаждат отново няколко седмици по-късно, за да кажат на жертвата, че инвестицията ѝ е нараснала, и я насърчават да вложи още. След това изчезват.

От Facebook твърдят, че повечето от откритите от Beard дълбоко фалшиви реклами са били деактивирани. Проблемът е, че те продължават да се появяват. Беглото търсене на "Сунак" в рекламната библиотека на Facebook в сряда сутринта откри шепа нови, активни реклами, включително една, в която Сунак казва, че неговата платформа за квантов изкуствен интелект на стойност 5 млрд. долара "търгува с акции и го прави много добре". В рамките на няколко часа те бяха обявени за неактивни.

"Много от тези реклами са имали само 1000 до 5000 показвания", казва Беърд, който смята, че до 400 000 души са видели фалшивите реклами на Сунак през декември. "Но ако ги съберем, сумата бързо ще стане голяма." Освен това едва наскоро в такива реклами започна да се появява британският министър-председател, казва той.

Лесно е да се предположи, че дезинформацията се разпространява от злонамерени политически актьори и идеолози, но често това са просто хора, които се опитват да спечелят пари. И все пак те могат да формират мнението на избирателите за човек като Сунак, като може би задълбочават съществуващите подозрения, че на него не може да се вярва. Преди изборите в САЩ през 2016 г. група тийнейджъри в Македония спечелиха хиляди долари от приходи от реклама, като публикуваха фалшиви статии за семейство Клинтън и Доналд Тръмп, включително един от най-големите им хитове: "Папа Франциск шокира света, подкрепя Доналд Тръмп за президент". Според едно проучване на Станфордския университет фалшивите истории в полза на Тръмп са били споделени 30 милиона пъти през трите месеца преди изборите през 2016 г., което е почти четири пъти повече от споделянията в полза на Хилъри Клинтън. Много от тези статии станаха масови във Facebook.

Днес Фейсбук премахва класирането на новинарските истории. Това означава, че докато някога статията от Fox News, публикувана от чичо ви, с дълга опашка от разгорещени коментари, би била в горната част на фийда ви, сега потребителите на Facebook вместо нея са склонни да виждат случайни, забавни видеоклипове от хора, които не познават, в Reels, клонинг на TikTok във Facebook.

Тези кратки видеоклипове са мястото, където дезинформацията може да се разпръсне и да бъде почти невъзможно да бъде проследена. "Притесняваме се, че тези [дълбоки фалшификати] се възприемат от влиятелните лица в TikTok", казва Биърд. Инфлуенсърите в TikTok и Reels обикновено печелят пари чрез спонсорирани публикации, което може да ги подтикне да публикуват провокативно съдържание, за да увеличат аудиторията си. Това, което се случва след това, Биърд нарича "пране на съдържание", при което дълбокият фалшификат преминава от една социална мрежа в друга.

Пример за това е: Когато през ноември миналата година инфлуенсър на TikTok публикува, че клати глава на (привидно неизвестен за него) фалшив аудиоклип на кмета на Лондон, TikTok го сваля - но видеото попада в Twitter, а също и във Facebook, където остава. (Фейсбук не премахва измамни аудиоклипове на политици и вместо това поставя предупредителни етикети върху тях, като твърди, че това е по-добър начин за борба с дезинформацията.)

Междувременно Twitter, сега известен като X, се бави с прилагането на собствените си политики. Тя забранява политическата дезинформация, но е решила да не премахне отделен, генериран от изкуствен интелект клип с гласа на лидера на британската Лейбъристка партия Киър Стармър, защото е искала "доказателство", че аудиото е фалшиво, според човек, запознат с въпроса. Аудиозаписът на Стармър беше опроверган от водещите политически партии в Обединеното кралство и от независимата организация за проверка на фактите Full Fact. Клипът продължава да бъде публикуван в X.

Въпреки всичко, което се говори около изборите в Айова, тази критична за демокрацията година само започва своя ход. С провеждането на още избори ще започне луда борба за внимание от страна на политическите партии, влиятелните личности, новинарските организации и онлайн измамниците. Facebook взе похвално решение да направи библиотеката си за реклами прозрачна, а Twitter и TikTok трябва да направят същото. Но компанията на Марк Зукърбърг също така трябва да актуализира политиката си за измамни аудиоклипове и да се справи по-добре с контрола върху дълбоко фалшивите реклами, които експлоатират политици.

Дълбоко фалшифицираното съдържание, което виждаме сега, съвсем скоро ще се превърне в лавина. Задържането ѝ няма да е в ръцете на Олтман от OpenAI, а на Зукърбърг, Мъск и други, които наблюдават социалните платформи, изобилстващи от фалшификати.