Защо Microsoft призна, че изкуственият интелект ни прави глупави?

Microsoft Corp. планира да похарчи 80 милиарда долара за изкуствен интелект тази година, затвърждавайки позицията си на водещ доставчик. Така че защо наскоро публикува изследователска статия, показваща ерозия на уменията за критично мислене сред работниците, използващи генеративни AI инструменти като ChatGPT? Ако бяхме благосклонни, бихме могли да кажем, че това е истинско научно изследване. По-вероятно е, компанията да иска да изпревари кривата, докато AI нарушава определени работни места, и да гарантира, че нейните инструменти остават полезни за бизнеса. Във време, когато Big Tech се надпреварва да направи моделите на AI по-големи, това е освежаващо обмислен подход както към бизнес модела на индустрията, така и към неговите социални резултати.

Проучването, проведено съвместно с изследователи от университета Карнеги Мелън, анкетира 319 специалисти в областта на знанията за това как използват AI, включително учител, генериращ изображения за презентация за миенето на ръце пред своите ученици, използвайки DALL-E 2, и търговец на суровини, генериращ стратегии, използвайки ChatGPT.

Изследователите откриват поразителен модел: колкото повече участниците се доверяват на AI за определени задачи, толкова по-малко практикуват тези умения сами, като писане, анализ и критични оценки. В резултат на това те сами съобщават за атрофия на уменията в тези области. Няколко респонденти казаха, че са започнали да се съмняват в способностите си да изпълняват задачи като проверка на граматиката в текст или съставяне на юридически писма, което ги е накарало автоматично да приемат каквото и да им е давал генеративният AI.

И е било още по-малко вероятно да практикуват уменията си, когато има времеви натиск. „В продажбите трябва да достигам определена квота всеки ден или рискувам да загубя работата си“, каза един анонимен участник в проучването. „Следователно, използвам AI, за да спестя време и нямам много място да размишлявам върху резултата.“

Подобно скорошно проучване на Anthropic, което разглежда как хората използват неговия AI модел Claude, установи, че най-търсеното умение, проявявано от чатбота в разговори, е „критичното мислене“.

Това рисува картината на бъдещето, в което професионалните работници в крайна сметка стават мениджъри на продукцията на AI, а не инициатори на нови идеи и съдържание, особено когато моделите на AI стават по-добри. Най-новият модел „Deep Research“ на OpenAI, който струва $200 на месец, може да провежда проучвания в интернет, претърсвайки изображения, PDF файлове и текст, за да произвежда подробни отчети с цитати.

Един от резултатите е, че когнитивната работа ще се трансформира и то бързо, според бележка до инвеститорите от Deutsche Bank AG от 12 февруари. „Хората ще бъдат възнаградени за това, че задават правилните въпроси на техния AI агент по правилния начин и след това използват своята преценка, за да оценят и повтарят отговорите“, пише анализаторът Адриан Кокс. „Голяма част от останалата част от когнитивния процес ще бъде разтоварена.“

Колкото и плашещо да звучи това, помислете, че Сократ някога се е притеснявал, че писането ще доведе до ерозия на паметта, че някога се е очаквало калкулаторите да убият нашите математически умения и че GPS навигацията ще ни остави безнадеждно изгубени без нашите телефони. Това последното може да е донякъде вярно, но като цяло хората са успели да използват мозъците си по друг начин, когато възлагат мисленето си на външни изпълнители, дори ако нашите математически и навигационни умения станат по-закърнели.

Различното при AI е, че той навлиза в много по-широка част от нашето ежедневно познание. Ние сме поставени в позиция да мислим критично много по-често, отколкото да изчисляваме суми или да чертаем маршрути – независимо дали създаваме чувствителен имейл или решаваме какво да маркираме за шефа си в доклад. Това може да ни остави по-малко способни да вършим основна професионална работа или по-уязвими към пропаганда. И това води обратно към въпроса защо Microsoft, която прави пари от продажбите на GPT моделите на OpenAI, публикува тези открития.

Има следа в самия доклад, където авторите отбелязват, че рискуват да създадат продукти, „които не отговарят на реалните нужди на работниците“, ако не знаят как работещите в областта на знанието използват AI и как работят мозъците им, когато го правят. Ако уменията за мислене на мениджър продажби се влошат, когато използват продуктите на Microsoft AI, качеството на тяхната работа също може да намалее.

Очарователна констатация в проучването на Microsoft е, че колкото повече хора са уверени в способностите на техния AI инструмент, толкова по-малка е вероятността да проверяват повторно резултатите от него. Като се има предвид, че AI все още има склонност да халюцинира, това повишава риска от работа с лошо качество. Какво се случва, когато работодателите започнат да забелязват спад в представянето? Те може да обвинят за това работника, но може и да обвинят AI, което би било лошо за Microsoft.

Технологичните компании шумно рекламират AI като инструмент, който ще „увеличи“ нашата интелигентност, а няма да я замени, както изглежда предполага това проучване. Така че урокът за Microsoft е в това как насочва бъдещите продукти, не в това да ги направи по-мощни, а в това да ги проектира по някакъв начин да подобряват, а не да подкопават човешките способности. Може би, например, ChatGPT и подобните му могат да подтикнат своите потребители да измислят свои собствени оригинални мисли от време на време. Ако не го направят, бизнесът може да се окаже с работна сила, която може да направи повече с по-малко, но също така не може да забележи кога новооткритата им ефективност ги изпраща в грешни посоки.

Парми Олсън е колумнист на Bloomberg, която пише за технологиите. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата We are Аnonymous.

Още по темата

Как DeepSeek разтърси креслата на самодоволните AI царе на Силициевата долина 

БТПП създава Съвет за AI в помощ на българския бизнес

Meta планира голяма инвестиция в AI хуманоидни роботи