Защо новият изкуствен интелект Q* на OpenAI е обезпокоителен

Тъй като AI инструментите стават все по-добри в разсъжденията, ще става все по-изкушаващо да им се възлагат по-големи отговорности

20:00 | 4 декември 2023

Автор: Парми Олсън

Снимка: Bloomberg LP

Когато миналата седмица се появиха новини, че OpenAI работи по нов модел на изкуствен интелект, наречен Q* (произнася се "q star"), някои предположиха, че това е голяма стъпка към мощен, подобен на човешкия изкуствен интелект, който един ден може да стане непокорен. Какво е по-сигурно: Шумотевицата около Q* повиши вълнението относно инженерните умения на компанията, точно когато тя се стабилизира след неуспешен преврат в борда. Върховете на вълнението около ключови събития в областта на изкуствения интелект вече много пъти са развличали обществеността. Истинското предупреждение, което трябва да приемем от Q*, е посоката, в която тези системи се развиват. Тъй като те стават все по-добри в разсъжденията, ще става все по-изкушаващо да се възлагат на такива инструменти по-големи отговорности. Повече от опасенията за унищожаване на изкуствения интелект, това само по себе си трябва да ни накара да се замислим.

OpenAI не е потвърдила какво представлява Q*, като възстановеният главен изпълнителен директор Сам Алтман го определи само като "злополучно изтичане на информация", но в медиите звучи подобно на друга система, по която работи Google на Alphabet Inc. Gemini е големият нов конкурент на ChatGPT, който не само ще генерира текст и изображения, но и ще се отличава с умения за планиране и изготвяне на стратегии, според главния изпълнителен директор на Google DeepMind Демис Хасабис. DeepMind се прочу със създаването на модел на изкуствен интелект, който победи шампиони по Го, а Gemini ще използва някои от тези техники за решаване на проблеми.

С Q* OpenAI изглежда тласка ChatGPT в подобна посока, тъй като според многобройни доклади Q* може да решава задачи по математика от началното училище. Това може да звучи невпечатляващо, но съчетаването на математически възможности със софтуер, който може също така да пише текст и да създава изображения, е уникално, а ChatGPT досега се затрудняваше да решава правилно уравнения. Ако можеше, това би могло да се свърже с подобрение в разрешаването на проблеми. Математиката изисква разбиране на проблема и намиране на стъпките за решаването му, преди да се извършат всички правилни изчисления. Този процес е малко по-близък до начина, по който ние, хората, мислим и решаваме проблеми.

Ранните версии на Gemini вече могат да изпълняват някои задачи, които изискват планиране, твърди човек с достъп до предстоящия инструмент на Google, който не желае да бъде назован поради ангажименти за конфиденциалност.

Трудно е да се намерят примери за задачи, които Gemini може да изпълнява, но човекът, който е използвал модела, казва, че може например да му се възложи да извърши пазарно проучване за нов продукт. След това той може да проучи интернет и да се върне с анализ и допълнителни идеи. "С ChatGPT все пак трябва да държите ръцете на модела малко повече", добави той.

Тъй като все повече системи с изкуствен интелект са в състояние да извършват самостоятелно неща като провеждане на проучвания, техните човешки оператори вероятно ще преминат от възлагане на единични задачи към по-широка отговорност за няколко задължения. Помислете за координиране на работата с колеги по имейл или за управление на анализи. Това ще звучи примамливо за всяка компания, която иска да стане по-ефективна, но подобни инструменти обещават също така да изместят работни места, особено начални позиции, улесняващи навлизането на млади служители в нова област.

Компаниите, които възлагат повече дейности на изкуствения интелект, рискуват също така да вкарат в работните си системи стереотипи, свързани с пола и расата. Повечето фирми трябва да избират от шепа т.нар. базови модели на OpenAI, Google или Amazon.com Inc., за да надградят инфраструктурата си, а такива модели са били критикувани не само за това, че показват утвърдени предразсъдъци към хората с увреждания и расовите малцинства, но и за това, че са силно неразбираеми. OpenAI, а оттам и Microsoft Corp. отказаха да разкрият подробности, от които независимите изследователи се нуждаят, за да определят колко пристрастни са техните езикови модели.

Forrester Research Inc. прогнозира, че през 2024 г. близо 7 млн. американски служители, работещи със знания, ще използват Microsoft 365 Copilot. Междувременно Google пуска свой собствен конкурент, Duet AI, сред повече от 3 млрд. потребители на корпоративната си платформа Workspace.

Тъй като тези инструменти са пропити с повече умения за планиране и стратегически умения, ще говорим много повече за възлагането им на "отговорности" вместо на "задачи". Но трябва да го правим бавно и внимателно. Очакваното от тях прекъсване може да се върне, за да ни преследва.