AI става все по-евтин, но това не дава решение на всички проблеми

Разходите за внедряване на ИИ директно в системите на дадена компания могат да струват между 5 и 20 милиона долара, според изследователската компания Gartner

17:15 | 5 август 2024
Автор: Парми Олсън
Снимка: Bloomberg L.P.
Снимка: Bloomberg L.P.

За технология, която обещава да помогне на бизнеса да намали разходите, изкуственият интелект има голям проблем с това, че е толкова скъп.

Законите за мащабиране на изкуствения интелект, според които за създаването на по-мощни модели е необходима по-голяма изчислителна мощност, принудиха технологичните компании да се надпреварват да харчат милиарди долари за изграждане на огромни центрове за данни и закупуване на мощни чипове - разходи, които те не могат да не прехвърлят на своите клиенти. Инструментът на Google с изкуствен интелект за генериране на документи или имейли за офис служители не е евтин. Той добавя 20 долара към месечната сметка на техния работодател за 6 долара за пакета Workspace на компанията, за всеки служител. Асистентът с изкуствен интелект Copilot на Microsoft Corp. струва 30 долара месечно на работник.

В същото време разходите за внедряване на ИИ директно в системите на дадена компания могат да струват между 5 и 20 милиона долара, според изследователската компания Gartner, която смята, че 30% от проектите за генеративен ИИ ще бъдат изоставени до края на 2025 г., отчасти заради всички тези разходи.

Добрата новина за тези клиенти е, че разходите за ИИ изглежда намаляват, което помага да се преодолее разликата между ползите и инвестициите. Лошата новина: Това все още не решава по-големия проблем с полезността, чието решаване ще отнеме още няколко години.

Преобладаващата мъдрост в Силициевата долина е, че трябва да се харчи, за да се стъпи в бъдещето. Във вторник Microsoft обяви, че капиталовите ѝ разходи са достигнали рекордните 19 млрд. долара през последното тримесечие, което е с над 80% повече от миналата година. Главният изпълнителен директор Сатя Надела заяви, че всички тези инвестиции ще продължат, за да "уловим възможностите на изкуствения интелект". Alphabet Inc. Главният изпълнителен директор Сундар Пичай каза почти същото в неотдавнашния разговор за резултатите на Google: "Рискът от недостатъчно инвестиране е драматично по-голям от риска от свръхинвестиране за нас." Инвеститорите не вярват напълно на това: Акциите на Microsoft са се понижили с около 2% след последното обявяване на резултатите, а тези на Google - с 5%.

Изграждането на най-усъвършенстваните модели на ИИ става все по-скъпо в последните седем години

Но въпреки че разходите за обучение на ИИ са се увеличили през годините, както е показано на графиката по-горе, услугите за ИИ на двата технологични гиганта изглежда се насочват към поевтиняване. Говорител на Google казва, че последният модел Gemini на компанията - който бизнесите могат да използват за автоматизиране на операциите по обслужване на клиенти или за обобщаване на вътрешни документи - е по-мощен от предишния, но е почти наполовина по-евтин.

Последният модел на OpenAI, известен като GPT-4o, е по-бърз, но и с 50% по-евтин от своя предшественик GPT-4 Turbo. Говорителка ми каза, че разходите за достъп до нейните модели, които се измерват с обработката на токени (по същество думи от езиковия модел), са спаднали с 99% от 2022 г. насам. "Ние сме решени да продължим тази траектория", добави тя.

Сред учените, занимаващи се с изкуствен интелект, намаляването на разходите с техники като sparsity и quantization е основен акцент на последните конференции. Нирав Кингсланд, изпълнителен директор в конкурента на OpenAI - Anthropic, ми каза, че е възможно цените на моделите му да паднат до 25% от сегашната им цена през следващите една-две години и че компанията, която е набрала 8,8 млрд. долара от инвеститори, включително Google и Amazon.com Inc., вече е намалила наполовина разходите за създаване на скорошен модел чрез нови изследователски методи.

Има и други признаци, че разходите намаляват. В Китай компаниите за изкуствен интелект водят ценова война, която е довела до намаляване на цената за използване на генеративен изкуствен интелект, отчасти благодарение на по-свободната регулаторна среда, по-ниските разходи за труд и държавните субсидии. Стартъп за ИИ там, наречен DeepSeek, например таксува 0,14 долара за милион токена за бизнес потребители, докато подобен модел от OpenAI струва 10 долара.

А ефективността на разходите идва и от бизнес потребителите.
Много от тях осъзнават, че не се нуждаят от най-мощния изкуствен интелект, за да дадат на служителите си предимство в производителността, затова експериментират с отворени модели на компании като Meta Platforms Inc. или с по-малки модели, които са по-евтини или по-бавни. Един чатбот за обслужване на клиенти може да се нуждае от най-съвременен инструмент за ИИ, който може да прави изводи в реално време, но да анализира обажданията на клиентите, за да ги подобри?Това може да се направи с по-малко усъвършенствана технология.

Man Group Plc, глобална компания за управление на активи, ми каза, че моделите, които използва за обобщаване на текст за своите портфолио мениджъри или за намаляване на дневната работа до 30 минути за други служители, наистина намаляват цената си. Но има въпроси за това доколко устойчива ще бъде тази ценова траектория в бъдеще.

Силициевата долина има история на субсидиране на цените, като платформите за стрийминг, приложенията за споделено пътуване и услугите в облака поемат маржове, за да увеличат пазарния си дял.
Целта е да се преодолее конкуренцията и в крайна сметка да се повишат цените, за да се постигне печалба. Но ето го и препъни камъка за генеративния ИИ: все още е широко застъпен въпросът доколко той може да бъде полезен за крайния резултат на бизнеса, което според Gartner е основната причина за прогнозата, че 30% от проектите ще бъдат изоставени до края на следващата година.

Ако технологията остане заклещена само в раздаването на чатботове и обобщаването на текст, тя може да не си струва дори по-ниските цени. Това е въпросът, с който технологичните компании може би трябва да се борят повече от другите, дори от цената.

Парми Олсън е колумнист на Bloomberg, който пише мнения за технологиите. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата "Ние сме анонимни".