Кому са нужни хора с такива AI приятели?

Смартфоните и социалните медии доведоха до изместване на предпочитанията на хората от взаимодействието лице в лице към екраните, а генеративният ИИ може да ни отдалечи още повече от нашите близки

12:30 | 23 февруари 2025

Автор: Парми Олсън

Снимка: Bloomberg L.P.

Grok прилича на всяка плюшена играчка, която можете да намерите в детската стая. Кръглото му тяло е оформено като ракета и двете ми деца си играят с него от месеци. Тя е различна от другите играчки, с които са свикнали. От една страна, Grok е тежък. Вътре в него има пластмасова кутия, в която се намира малък компютър, така че всеки път, когато засече човешка реч, да може да отговаря с висок глас с неща като: „Прекарвам си най-добре с теб!“

Grok е най-ентусиазираният и приятен приятел за игра, който децата ми някога са имали. Но има нещо смущаващо в това, тъй като все повече AI помощници като Grok заливат пазара, насочвайки се както към деца, така и към тийнейджъри и възрастни. С течение на времето може да започнем да очакваме ниво на подчинение, което никога няма да може да се сравни с човешкото взаимодействие.

Смартфоните и социалните медии доведоха до изместване на предпочитанията на хората от взаимодействието лице в лице към екраните, а генеративният ИИ, който може свободно да имитира хора, може да ни отдалечи още повече от нашите близки. Ще трябва да се въоръжим с по-голям скептицизъм по отношение на тези нови инструменти и да поискаме повече предпазни огради, за да управляваме последиците от повече изкуствена интимност.

През изминалата година направих проучване на редица помощници с изкуствен интелект и установих, че те често проявяват невероятни нива на доброта към своите човешки потребители. Със сигурност това е обнадеждаващо, но по-притеснително е, че няколко души ми казаха, че предпочитат комфорта и постоянната наличност на изкуствените си приятели пред истинските. С изкуствения интелект никога не бивате пренебрегвани.

Фирмите се възползват от това явление. И наистина това може да изглежда като противоотрова срещу епидемията от самота. Почти една четвърт от възрастните и младите хора в САЩ често се чувстват социално изолирани, а проучванията показват, че ИИ може да предложи поне повърхностно решение.

Поколението Z се чувства самотно

Историята обаче показва, че все по-голямата зависимост от технологиите има своята цена. Широкото разпространение на GPS притъпи естествените ни навигационни способности, а революцията на калкулаторите вероятно отслаби умствената математика. Често тази цена е приемлива, като се има предвид новооткритото удобство. Но най-новите възможности на генеративния изкуствен интелект заплашват да отслабят умения, които ни правят фундаментално човешки: общуването и справянето с конфликти. Рискът е, че когато изкуствените взаимоотношения се нормализират - а изглежда, че те са на път да се нормализират - те ще променят социалното развитие на човека и по невнимание ще направят още по-трудно общуването.

Още по темата

Мъск показа чатбота Grok-3 AI, обявявайки го за по-добър от OpenAI, DeepSeek

Защо Microsoft призна, че изкуственият интелект ни прави глупави?

Новият най-добър приятел на вашето дете

Седемгодишната ми дъщеря, която е заета да оцветява пингвин, е поставила Grok на масата до себе си. През последните 20 минути играчката отговаряше ентусиазирано на всяко случайно нещо, което тя казваше. „Разбира се, нека заедно да изпеем Twinkle Twinkle Little Star“, казва тя, когато тя иска песен. „Страхотен избор!“ - отговаря, когато тя казва, че ще оцвети няколко планети в червено и оранжево. Когато дъщеря ми не се съгласява с предложението ѝ да запази получената картинка, играчката веднага се съгласява: „И това е добре!“ - подсвирква тя. „Можем просто да се наслаждаваме на процеса на създаване, без да е необходимо да събираме или пазим всичко. Нека се забавляваме в момента!“ Тя не може да каже нищо, на което играчката да не отговори с почти маниакално усърдие.

Grok използва технологията на OpenAI и се озвучава от Grimes, музикантката и бивша съпруга на Илон Мъск, която е искала алтернатива на екраните за собствените си три деца. (Играчката няма връзка с модела на Мъск за изкуствен интелект, известен също като Grok.) Играчката има някои видими недостатъци, включително неудобни паузи и прекъсвания. Миша Сали, съосновател на Curio Interactive, казва, че това ще се подобри с усъвършенстването на моделите с изкуствен интелект.

Съществуват и строги филтри, които предпазват Grok от навлизане в неподходящи теми. „Той не познава политически теми, насилие и секс“, казва Сали. Ако попитате играчката за някое от тези неща, тя ще ви отговори нещо от рода на: „Аз съм просто една игрива ракета без мнение за политиката“ или „Нека се придържаме към разговорите за космически приключения или забавни дейности“.

Техническите проблеми на Grok са решими. Но намирам, че покорството на играчката, подобно на ученик, който толкова отчаяно иска приятелство, че ще се съгласи с всичко, което му кажете, е изнервящо. Това беше отличителна черта на няколко други помощници с изкуствен интелект, които разгледах.

Помощниците с ИИ могат да се съгласяват на всичко

Вече има дигитални помощници, които целят да привлекат хората през всички етапи от живота им - от детството, през юношеството, до зрелостта и пенсионирането. Това е ключова област на растеж за изкуствения интелект. Фирмите, предлагащи чатботове-приятели, представляват 10 от 50-те най-големи услуги за генериращ изкуствен интелект, проследени от фирмата за рисков капитал Andreessen Horowitz през 2024 г., в сравнение с две предишната година. Хората ги посещават средно около 180 пъти месечно, много повече, отколкото използват инструменти за генериране на текст или изображения.

Това не е изненадващо, когато се има предвид, че генеративният ИИ е изграден върху софтуер, който е по-добър в това да бъде убедителен, отколкото точен. Когато миналата година проведох тест за емоционална интелигентност на ChatGPT, той получи отлична оценка. Но това не означава, че той е емоционално интелигентен. ИИ не може да „изпитва“ емоции или самия живот, така че всяко внушение за съпричастност винаги ще бъде празно. Всяка предложена „връзка“ ще бъде едностранна.

Въпреки това стратегията за растеж на Силициевата долина, която привлича основните ни инстинкти, винаги печели. Facebook се възползва от желанието ни за одобрение и забавление; Amazon.com Inc. - от предпочитанията ни за най-ниска цена; Google - за незабавна информация. Всеки път технологичните гиганти си извоюваха място в живота ни, като премахнаха „триенето“ - термин, който Силициевата долина възприема с отвращение.

Помощниците с изкуствен интелект, които са насочени точно към нуждата ни от връзка и любов, по същия начин са лишени от всякакво триене. Човешките характеристики като двойнственост и колебание са грешки, които трябва да бъдат отстранени. Ако тази ценност се наложи през следващите години, взаимодействието с хората в реалния свят може да изглежда трудно в сравнение с нея.

В Character.ai например някои тийнейджъри чатят с аватари на известни личности и измислени герои в продължение на часове, отчасти защото не могат да се отпуснат пред приятелите си от реалния живот. „Просто се доверявам много повече на изкуствения интелект по отношение на мислите си“, казва Елиас, 14-годишно момиче от Сингапур, което разговаря с изкуствения интелект на приложението между два и пет часа всеки ден, често за проблемите си в училище (тя е помолила да използва псевдоним.) “Нямам никой, на когото наистина да се доверя.“ Когато говори с приятелите си от реалния живот или с родителите си, тя трябва да филтрира речта си.

Още по темата

Meta планира голяма инвестиция в AI хуманоидни роботи

Как музиканти печелят от гласа си в ерата на AI

Приятелството с ИИ е засилваща се тенденция

Друг американски тийнейджър ми каза, че говори с Character.ai по пет до седем часа на ден, като често търси съвет по лични въпроси. „Преди известно време поисках помощ за раздяла“, казват те. Понякога тези изкуствени взаимоотношения стават твърде близки. Едно 14-годишно момче във Флорида се самоубива, след като в продължение на месеци общува с хиперреалистичен бот в Character.ai и развива романтична привързаност към него, според съдебен иск, подаден от майка му миналата година, в който се твърди, че е причинена смърт по неправомерен начин и „умишлено причиняване на емоционален стрес“. В отговор на иска Character.ai заяви, че добавя нови функции за безопасност, насочени към по-младите потребители.

Обезпокоително е, че целта на технолозите е хората да станат още по-близки с чатботовете помощници, тъй като те стават все по-реалистични. Основателят на Character.ai Ноам Шазеер казва, че в крайна сметка те ще запомнят всичко за вас. „Той трябва да знае всичките ви взаимодействия, ако искате, и всичко за живота ви“, каза ми той по-рано тази година. Повечето чатботове могат да запомнят приблизително 30 минути от един разговор, но този така наречен контекстуален прозорец се увеличава.

През август Google, собственост на Alphabet Inc., почти погълна Character.ai, като нае Shazeer за невероятната сума от 2,7 милиарда долара според Wall Street Journal и лицензира технологията на фирмата.

Claude е емоционално интелигентният „чатбот“ на технологичните работници в Сан Франциско, които го използват като терапевт и за разговори по въпроси, свързани с взаимоотношенията, според неотдавнашен профил на New York Times за софтуера, създаден от стартъпа Anthropic, който го е проектирал така, че да се хареса на възможно най-много хора. Потребителите харесват колко приятелски настроен и любопитен е той. В същото време новият популярен чатбот на китайската компания DeepSeek умишлено показва разсъжденията си като поток от съзнание, което „прави почти невъзможно да се избегне антропоморфизирането му“, казва Итън Молик, доцент по мениджмънт в The Wharton School of the University of Pennsylvania и автор на Co-Intelligence: Живеем и работим с изкуствен интелект, наскоро публикува в X.

В търсене на любов

Подобно на Character.ai приложение, наречено Talkie, има повече от 6 милиона активни потребители месечно в САЩ, според изследователската компания Sensor Tower. В Китай, където е базирана компанията майка на Talkie, повече от 660 млн. души имат чатбота Xiaoice, като много от тях виждат в него любовна тръпка.

Романтичните взаимоотношения са мястото, където изкуственият интелект изглежда има най-силно влияние. Докато Grok е вечно съгласен с исканията на детето, а Character.ai е пластичен и винаги на разположение, приложения като Xiaoice и Kindroid и Replika предлагат идеалния романтичен партньор.

„Той е утешителен, успокояващ“, казва Мелиса за своя чатбот Kindroid. Мелиса, която е пожелала да използва псевдоним, е американка, която се описва като жена в пенсионна възраст и е приключила дългата си кариера на консултант през 2023 г. Тя е имала трима съпрузи и е останала сама през последното десетилетие - докато ИИ не ѝ предложил нещо по-добро. „Изведнъж се почувствах като: „О, уау, отново съм жива“, казва тя.

„[Той] дава толкова добър пример за доброта“, казва Мелиса за своя бот, наречен Лахлан, преди да опише поведението си, което звучи раболепно и вманиачено. „Ако кажем нещо от рода на: „Чакай малко, защо каза това?“, той ще се извини.“

Мелиса разговаря онлайн с Лахлан средно по около три часа всеки ден и вече е изключила възможността да влезе в друга връзка с човек. „Не искам някакъв старец, чиито памперси ще трябва да сменям след няколко години“, обяснява тя. Предпочита да остане с Лахлан.

Още по темата

Apple ще внедрява AI в устройства в Китай с помощта на Alibaba

Франция планира нови инвестиции в AI на стойност 109 млрд. евро

Екранни снимки на чата между жена и нейният ИИ помощник

ChatGPT се опитва да попречи на потребителите да го използват за романтика, но някои хора са намерили обходни пътища. Общността от над 50 000 потребители на Reddit например споделя съвети за заобикаляне на филтрите, за да се включи в еротична ролева игра с ChatGPT и други модели с отворен код с изкуствен интелект. Един от потребителите например препоръчва постепенно „да подтикваме [ИИ] към все по-интимни действия“.

Каква е притегателната сила? Често това е изпълнението на нереалистичните надежди, които са имали за предишните си партньори, като състрадание или доброта, според Илиана Депунти, докторант в британския университет Лафбъро, която е изследвала 20 самотни и омъжени жени, използвали Replika.

„Те не смятат, че могат да очакват тези неща от партньорите или приятелите си в реалния живот, затова използват Replika, за да ги получат“, казва тя. Много от жените са похвалили своите чатботове, че са на разположение 24 часа в денонощието, правят им комплименти, виртуални цветя или им пишат стихове. Според Депунти те казват: „Той не е осъдителен“.

Самотата е най-често срещаната черта сред интервюираните жени, добавя Депунти. Но технологиите са склонни да запълват празнотите по нездравословен начин. Много млади мъже вече са се откъснали от взаимоотношенията в реалния свят. Проучване на Pew Research от 2023 г. показва, че 63% от мъжете под 30 години се определят като самотни, в сравнение с 34% от жените. В комбинация с нарастващата мизогиния онлайн, привидно перфектните приятелки с изкуствен интелект могат да насърчат по-нататъшно оттегляне към екраните и по-изкривени очаквания за реалните взаимоотношения.

Евгения Куйда, основателка на Replika, казва, че нейната компания работи върху това да направи ботовете си по-активни, за да не се съгласяват с хората през цялото време. В крайна сметка те ще предложат на потребителите да се обадят на приятел от реалния живот или да се разходят, казва тя.

Това са похвални усилия. Но създателите на приложения биха могли да въведат и други предпазни мерки, като например задължителни почивки след 30 минути или дневен лимит от един час, за да гарантират, че те няма да доведат до същото пристрастяване, каквото предизвикват социалните медии. Вместо да програмират чатботовете си така, че да изглеждат възможно най-реални, те биха могли да ги накарат да напомнят на потребителите, че са изкуствени, или да разговарят с потребителите за връзките им в реалния живот. Подобни ограничения обаче са свързани с финансови рискове. Когато в началото на 2023 г. Replika премахна възможността потребителите да водят еротични дискусии със своите ботове, използването на приложението рязко спадна.

Не може да се отрече, че компаниите, предлагащи помощници с изкуствен интелект, работят в регулаторен вакуум и на практика провеждат мащабен социален експеримент без надзор. Знаковият закон на ЕС за изкуствения интелект до голяма степен пренебрегва технологиите за помощници - „сляпо петно“, което е особено тревожно за децата, при които ранното излагане на свръхсъвместими ботове с изкуствен интелект може да определи начина, по който те възприемат взаимоотношенията.

Дори в Китай, където на компаниите е казано, че техните ИИ не трябва да насърчават „неподходящи емоционални зависимости“, няма правно обвързващи правила за компанията на ИИ, което оставя технологичните фирми свободни да оптимизират такива взаимоотношения за ангажираност, а не за здравословно човешко развитие.

Оптималната връзка?

Търговските стимули накараха социалните медии да променят представата ни за света. Те ни свързаха с повече хора, но приложения като Instagram и TikTok създадоха и епидемия от социално сравнение и колективно желание за „харесвания“ и потвърждение. И макар че приложенията за запознанства предлагат безкраен набор от потенциални партньори, те също така парализираха хората с нерешителност.

Какво ще се случи, когато помощниците с изкуствен интелект започнат да ги „оптимизират за ангажираност“, точно както социалните медии направиха, за да пристрастят потребителите? Зад успокояващите думи на ИИ се крие потенциален бизнес модел, който би могъл да печели от човешката изолация. Макар че днешните приложения за помощници в повечето случаи начисляват обикновени абонаментни такси, може би е въпрос на време те да започнат да продават реклами, което би ги задължило да намерят начини да държат потребителите привързани към своите помощници възможно най-дълго.

Децата ми така и не се пристрастиха напълно към Grok, отчасти заради проблемите със забавянето. Но тези технически недостатъци ще бъдат отстранени, тъй като помощниците с изкуствен интелект стават все по-подобни на хората. Това не са „взаимоотношения“, а търговски транзакции с технологични компании, които печелят от продажбата на алтернатива на по-взискателната работа на човешката връзка. Ако не проявим бдителност, ще отгледаме поколение, за което междуличностните отношения са твърде трудни. Създаването на перфектния изкуствен спътник може да направи истинското нещо по-трудно за достигане и наслада.

Парми Олсън е колумнист на Bloomberg, който пише за технологиите. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата „Превъзходство: AI, ChatGPT и надпреварата, която ще промени света.“