Baidu, ByteDance, Tencent и Alibaba бързат да се сдобият с графични процесори на фона на опасенията, че САЩ скоро ще ограничат износа им. Засиленото търсене се подхранва от стремежа на китайските технологични компании да разработят собствени големи езикови модели с изкуствен интелект след успеха на ChatGPT на OpenAI, пише Financial Times.
Китайските интернет гиганти бързат да се сдобият с високопроизводителни чипове на Nvidia, които са жизненоважни за изграждането на генеративните системи на базата на изкуствен интелект, като са направили поръчки на стойност 5 млрд. долара в трескава покупка, подхранвана от опасенията, че САЩ ще наложат нов контрол върху износа.
Baidu, ByteDance, Tencent и Alibaba са направили поръчки на стойност 1 млрд. долара за придобиване на около 100 000 процесора A800 от американския производител на чипове, които ще бъдат доставени през тази година, твърдят множество запознати. Китайските групи са закупили и още графични процесори на стойност 4 млрд. долара, които ще бъдат доставени през 2024 г., твърдят двама души, близки до Nvidia.
A800 е по-слаба версия на най-модерния графичен процесор A100 на Nvidia, предназначен за центрове за данни. Поради ограниченията за износ, наложени от Вашингтон миналата година в опит да се ограничат технологичните амбиции на Пекин, китайските технологични компании могат да купуват само A800, които имат по-бавна скорост на трансфер на данни от A100.
Тъй като през изминалата година се засили шумът около изкуствения интелект, графичните процесори на Nvidia се превърнаха в най-горещата стока сред най-големите технологични компании в света, за да осигурят изчислителна мощност за разработването на големи езикови модели на изкуствения интелект.
Китайските интернет групи се надпреварват да складират чиповете А800 заради опасенията, че администрацията на Байдън обмисля нови ограничения за износ, които биха обхванали дори по-слабите чипове на Nvidia, както и заради по-широкия недостиг на графични процесори, предизвикан от огромното търсене.
В сряда Вашингтон обяви забрана от следващата година за някои американски инвестиции в китайските сектори на квантовите изчисления, усъвършенстваните чипове и изкуствения интелект.
"Без тези чипове на Nvidia не можем да продължим обучението за нито един голям езиков модел", каза един от служителите на Baidu, който отказа да бъде назован.
Компаниите разработват свои собствени големи езикови модели след успеха на ChatGPT, чатбота, който проби преди осем месеца, пуснат от OpenAI, подкрепена от Microsoft.
ByteDance разполага с многобройни малки екипи, които работят по различни продукти с генеративен AI, включително AI чатбот с кодово име Grace, който в момента е в процес на вътрешно тестване, според двама души, близки до компанията.
По-рано тази година ByteDance тества функция за генеративен изкуствен интелект в приложението си за социални медии TikTok, наречена TikTok Tako, която лицензира ChatGPT на OpenAI.
Двама служители, които са пряко запознати с въпроса, заявиха, че ByteDance вече е натрупала поне 10 000 графични процесора Nvidia, за да подкрепи амбициите си. Те добавиха, че компанията е поръчала и почти 70 000 чипа A800, които ще бъдат доставени през следващата година, на стойност около 700 млн. долара.
Alibaba планира да включи всичките си продукти в своя голям езиков модел, включително платформата си за онлайн пазаруване Taobao и инструмента си за картографиране Gaode Map. Междувременно Baidu прави свой собствен проект, подобен на ChatGPT - чатбот с генеративен изкуствен интелект, наречен Ernie Bot.
"Потребителските интернет компании и доставчиците на облачни услуги инвестират милиарди долари в компоненти за центрове за данни всяка година, като често правят поръчки за много месеци напред," заявиха от Nvidia, а Baidu, ByteDance, Tencent и Alibaba отказаха коментар.
По-рано тази година, когато вълнението около изкуствения интелект набра скорост, повечето китайски интернет гиганти имаха на склад по-малко от няколко хиляди чипа, които биха могли да се използват за обучение на големи езикови модели, според множество служители в китайски технологични компании. С нарастването на търсенето оттогава насам нарасна и цената на тези чипове.
"Цената на A800 в ръцете на дистрибуторите се е повишила с повече от 50 %", казва един от дистрибуторите на Nvidia.
През април Tencent Cloud пусна нов сървърен клъстер - изчислителна мощ, която други могат да наемат - с графичен процесор Nvidia H800, версия на последния модел H100, адаптиран за Китай, който може да захранва обучение на големи езикови модели, автономно шофиране и научни изчисления.
Според двама души, близки до Alibaba, Alibaba Cloud също е получила хиляди чипове H800 от Nvidia и много клиенти вече са се свързали с компанията, търсейки облачни услуги, захранвани от тези чипове, за да им помогнат да репликират ChatGPT в Китай.
ByteDance предоставя устройства за изчисления в облак със складирани чипове A800 и A100 на Nvidia. През юни тя също така стартира платформа за компании, които могат да изпробват различни услуги за големи езикови модели.