Когато новите технологии се развиват, недобросъвестните ги следват. Шумният влак на генеративния изкуствен интелект (ИИ) привлече измамници, които го използват не само като част от своите схеми, но и в рекламите си в социалните мрежи. Още по-лошото е, че понякога обект на атаките са по-възрастни и финансово уязвими хора. Федералната търговска комисия на САЩ ( FTC), която следи за заблуждаващи рекламни практики, е отбелязала скок на жалбите през изминалата година за реклами, които или използват AI, или твърдят, че го използват, за да въвлекат хората в измами, според документ с жалби, получен чрез искане по Закона за свобода на информацията от Bloomberg Opinion. Най-малко една трета от жалбите са за реклами, забелязани в сайтове за социални медии като Twitter, Facebook и YouTube, които сега са изправени пред нов вид дезинформационен противник сред собствените си рекламодатели.
През годината до февруари 2023 г. в FTC са постъпили само две жалби, свързани с реклами, в които се споменава изкуствен интелект, но през годината до февруари 2024 г. този брой нараства до 14, което съвпада с експлозията на инструментите за генеративен изкуствен интелект, които предприятията използват, за да създават текстове, подобни на човешките, и фотореалистични изображения и "deepfake".
На пръв поглед тези цифри може и да не говорят за епидемичен проблем, но като се има предвид, че повечето редовни потребители на социални медии са насърчавани да се оплакват първо на платформи като Facebook или YouTube, а не на най-големия американски регулатор за онлайн реклама, те все пак отразяват по-широко увеличение на това, което хората вероятно виждат, и може би са върхът на айсберга. (Всички изброени тук жалби са подадени директно до FTC.)
Един човек на 30 години от Лос Анджелис например е казал на FTC, че е бил подмамен да прехвърли 7000 долара на фалшив уебсайт на Tesla, след като е гледал видеоклип в YouTube, в който е имало дълбоко подправен образ на Елон Мъск. Във видеото фалшивият Мъск казва, че Tesla ще "удвои парите ви за кратък период от време", като работи с друга криптокомпания. Но жалбоподателят от Лос Анджелис така и не получи парите си обратно и заяви, че е загубил спестяванията си. "Това беше всичко, което имах", казват те в жалбата.
Друг човек от Флорида заяви, че продължава да вижда в YouTube дълбоко фалшиви реклами, които уж показват Брад Гарлингхаус, главен изпълнителен директор на базираната на блокчейн платежна мрежа Ripple, и обещават да "удвоят парите ви", се казва в жалбата. YouTube "напълно пренебрегва нашите опасения и тези реклами продължават да се показват", добавя лицето.
"Наясно сме с възникващата тенденция на "deepfake" реклами, предполагащи фалшиво одобрение или връзка със знаменитости", казва по имейл говорител на собственика на You Tube Alphabet Inc. "Знаем също, че тези реклами понякога могат да се използват за измама на потребителите. Инвестираме много в откриването и прилагането на мерки срещу тези "deepfake" реклами и лошите актьори, които стоят зад тях." През януари компанията заяви, че е "наясно" с реклами, използващи "deepfake" на известни личности като Мъск, за да разпространяват измами, и свали 1000 видеоклипа, които ги популяризират, според доклад в 404 Media.
Най-новите оплаквания показват, че по същия начин, по който фирмите се надпреварват да споменават изкуствения интелект в своите услуги или продукти, измамниците също го използват като примамка. Няколко от жалбите до Федералната търговска комисия от миналата година се отнасят и до реклами в платформите на Facebook. Един човек в Англия например попаднал на страница във Facebook на компания, която твърдяла, че е домакин на платформа за търговия с изкуствен интелект. След като открило сметка, лицето направило депозит от 200 долара и получило среща с финансов консултант. "След това той щеше да ме обучи допълнително за търговията с изкуствен интелект", се казва в жалбата му. В крайна сметка "съветникът" ги подтиква да платят такса за изтегляне на депозита си, която те не могат да си позволят.
Друг човек от Филипините съобщава за видеореклама в Reels - версията на TikTok във Facebook - в която измамници твърдят, че използват изкуствен интелект, за да помогнат на хората да печелят до 1500 долара на ден с работа на непълно работно време. А в друга платформа на Facebook - Instagram - някой в Австралия казал, че е видял обява за платформа за търговия с ИИ, разработена от Мъск, която може да "помогне на обикновените хора да спечелят хиляди долари чрез търговия с криптовалути". След като инвестирал 250 долара, този човек се оказал в невъзможност да изтегли част от парите си. "Те продължаваха да казват: "Финансовите служби трябва да я одобрят", казва жалбоподателят. "Това е последното, което чух от тях."
Говорителка на Meta Platforms Inc., която е собственик на Facebook, заяви, че компанията работи "в тясно сътрудничество с правоприлагащите органи, за да подкрепи разследванията и да държи измамниците далеч от нашите платформи" и че различните ѝ приложения "имат системи за блокиране на измами".
Измамниците използват ИИ и по други начини. Една ветеранка от американския щат Джорджия се оплака, че е посетила сайт за запознанства за възрастни хора и е разбрала, че много от потенциалните партньори, с които е общувала, са били ботове.
Ботовете проникват в приложенията и сайтовете за запознанства от години, но наскоро генеративният изкуствен интелект им помогна да звучат много по-гладко. В някои сайтове те насърчават потребителите да харчат пари, за да купуват виртуални подаръци за други потребители на платформата, или за повече кредити за чат. "Бях глупав, че се хванах на това", казва ветеранът в жалбата си.
Компаниите за социални медии от години се борят с хора, които се възползват от техните платформи, включително и с такива, които се опитват да разпространяват пропаганда и конспиративни теории. Този нов вид лоши актьори представлява уникално предизвикателство. Инструментите на изкуствения интелект позволяват на измамниците да провеждат мащабни кампании, което означава, че самият обем на тяхното съдържание може да затрудни методите за откриване. Платформите може да се сблъскат с херкулесовски усилия. Междувременно както предприятията, така и потребителите трябва да помнят поговорката, когато се сблъскват с нови технологии: ако изглежда твърде хубаво, за да е истина, вероятно е така.
Парми Олсън е колумнист на Bloomberg, който пише мнения за технологиите. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата "Ние сме анонимни".