Samsung вече преодолява изоставането в производството на чипове за AI за Nvidia

След поредица от неуспехи в разработването на чипове с памет, които са от решаващо значение за пазара на изкуствен интелект, Samsung Electronics Co. започва да постига напредък в намаляването на разликата с конкурента SK Hynix Inc. 

Според запознати, Samsung е постигнала важен напредък в завръщането си, включително е получила дългоочакваното одобрение от гиганта в областта на изкуствения интелект Nvidia Corp. за версия на своите високоскоростни микропроцесори за памет (HBM), наречена HBM3. Освен това се очаква одобрение за следващото поколение, HBM3E, след два до четири месеца, казаха лицата, които помолиха да не бъдат идентифицирани при обсъждането на вътрешни разработки.

Напредъкът идва след месеци на премеждия, включително грешни стъпки в развитието, които позволиха на по-малката SK Hynix да изскочи с огромна преднина в бързо развиващия се сектор. Необичайно е - и унизително - най-голямата южнокорейска компания да се опитва да навакса това изоставане. В миналото Samsung е заемала водеща позиция на пазара на чипове за памет, възползвайки се от своя мащаб и инженерен опит. Тъй като компанията се бори в областта на HBM, тя предприе изключително необичайната стъпка да смени ръководителя на подразделението си за полупроводници през май.

„Никога не сме виждали Samsung в такова положение“, казва Джим Макгрегър, анализатор в Tirias Research. „Индустрията и Nvidia се нуждаят от Samsung повече от всеки друг, но те се нуждаят от това Samsung да работи на пълни обороти.“

Компанията отказа да коментира конкретни партньори, но заяви, че като цяло си сътрудничи тясно с клиентите и тестовете протичат гладко.

Последните постижения на Samsung вероятно ще позиционират компанията така, че да се възползва от бурното търсене на продукти с изкуствен интелект. Според Morgan Stanley пазарът на HBM се очаква да нарасне от 4 млрд. долара през миналата година до 71 млрд. долара през 2027 г. Колкото по-бързо Samsung получи благословията на Nvidia, лидера в производството на ускорители за изкуствен интелект, толкова повече приходи ще може да получи от това увеличение.

„ Възприятието на инвеститорите за Samsung може скоро да се промени“, пишат анализаторите на Morgan Stanley Шон Ким и Дуан Лиу в изследователски доклад този месец. „Нещата се подобряват бързо.“

В доклада двойката определя Samsung като най-добрата си акция, защото смята, че компанията може да завладее допълнителен пазарен дял от поне 10% от HBM през 2025 г., добавяйки около 4 млрд. долара приходи. Въпреки че все още ще изостава от SK Hynix в областта, този напредък може да промени възприятията на инвеститорите и да повиши акциите.

Samsung вероятно ще се изправи пред въпроси относно стратегията си за HBM, когато отчете окончателните си приходи за второто тримесечие в сряда. Не е ясно колко подробности ще предостави компанията.

Джей Й. Лий, председател на Samsung Electronics Co. е заобиколен от представители на медиите, докато пристига в Централния окръжен съд в Сеул, Южна Корея, в понеделник, 5 февруари 2024 г. Предвижда се съдът да се произнесе по обвиненията на Лий, свързани със спорното сливане на две подразделения на Samsung Group през 2015 г. Снимка: СонгДжун Чо/Bloomberg

Въпреки че Samsung изглежда на път да получи печата за одобрение на Nvidia до ноември, компанията все още се бори за разрешаването на някои проблеми, като резултатите са непредсказуеми предвид сложността на чиповете с изкуствен интелект. Съществува вероятност графикът да се измести до 2025 г., казват източниците.

Грешните стъпки на Samsung дойдоха в необичаен за компанията период. Изпълнителният председател Джей И. Лий прекара години в борба с прокурори заради обвинения в подкупи и корупция, а междувременно висшите ръководители не смятаха HBM за приоритет. Всъщност пазарът беше заобиколен, докато OpenAI не представи ChatGPT в края на 2022 г. и не предизвика бясно търсене на чиповете на Nvidia, използвани за обучение на моделите на ИИ.

Докато SK Hynix беше готова за наплива, Samsung се бореше със сложните инженерни проблеми на новите чипове. HBM се състои от колекция от DRAM чипове, подредени един върху друг, осем на брой в най-новото поколение. Всеки слой генерира значителна топлина, а след това в тях е вграден графичният процесор на Nvidia, или GPU, който сам по себе си може да достигне 100 градуса по Целзий. Целият стек рискува да се разтопи без подходящи материали за разсейване и охлаждане.

„С увеличаването на тези слоеве предизвикателството да се постигне разумен добив става все по-трудно“, казва Джейк Силвърман, анализатор в Bloomberg Intelligence. "Проблемът е термичен: паметта се нагрява, защото е подредена в стекове. Тя е много близо до графичния процесор, който се нагрява още повече."

Според един от лицата, които са помолили да не бъдат назовавани, обсъждайки конфиденциална работа, Samsung са имали проблеми с решаването на този т.нар. термичен куплинг. През май компанията предприе драматични действия: Тя обяви, че ръководителят на подразделението за полупроводници Кюн Кие-хюн ще се оттегли и на негово място ще дойде Джун Йон-хюн.

Джун, който се присъедини към Samsung през 2000 г. и помогна за разработването на чиповете DRAM и флаш памет, бързо засили натиска за намиране на решения. 63-годишният Джун свика поредица от срещи, за да проучи техническите детайли и да открие основната причина за проблема. На една от срещите, която продължила часове без прекъсване, той изразил съжаление, че HBM може да е част от по-широк проблем, според лице, запознато с въпроса.

Samsung рискува да изостане не само по отношение на техническите характеристики на чиповете за памет, но и по отношение на неотложността на иновациите. За да стимулира сътрудничеството, той реорганизира екипа, посветен на HBM, и назначи нов ръководител.

Samsung използва стратегия за управление на топлината, наречена термално компресиран непроводим филм, или TC-NCF, за изолиране на всеки слой DRAM. SK Hynix, от друга страна, е пионер в алтернативата за подобряване на разсейването на топлината и производителността.

Въпреки това Samsung предпочете да се придържа към TC-NCF и да го подобрява, вместо да обмисли други подходи. Говорител на компанията заяви, че TC-NCF е „добре изпитана технология“, която ще се използва в бъдещи продукти.

В крайна сметка компанията е променила дизайна на HBM, за да реши проблемите със загряването и консумацията на енергия, казаха лицата. Това доведе до одобрението на HBM3 за Nvidia.

От Samsung заявиха, че откакто е поел поста, Джун е дал приоритет на културата на компанията за колективно обсъждане и постоянство при решаването на проблеми. Той добави, че не е имало „проблеми, свързани със загряването и консумацията на енергия в нашите HBM продукти“ и не е направил „никакви промени в дизайна“ за конкретни клиенти.

Спасителната мярка на Samsung може да е, че по-голямата част от растежа на изкуствения интелект предстои. Технологични фирми като Microsoft Corp., Alphabet Inc., майка на Google, Amazon.com Inc., Apple Inc. и Meta Platforms Inc. инвестират огромни суми, за да развият своите възможности.

Samsung произвежда чипове HBM3 от втората половина на миналата година, според подробности от тримесечните си отчети. Очаква се компании като Google, които сами разработват възможностите на чиповете си, да продължат да използват HBM3 през по-голямата част от тази година. Samsung започна да доставя HBM3 на Nvidia за своя чип H20 - продукт, персонализиран за Китай, за да отговаря на американския контрол върху износа.

Що се отнася до HBM3E, технологията се появи на пазара за първи път тази година, когато Nvidia сдвои чипа на SK Hynix със собствения си H200. Nvidia ще продължи да използва HBM3E в почти всички свои продукти до 2025 г., а конкурентите на чиповете ще се придържат към нея дори през 2026 г., твърдят анализаторите на Sanford C. Bernstein в доклад от юли.

Чипът HBM3E на Samsung.

„Samsung закъсня, но прозорецът на HBM3E ще остане отворен, за да може компанията да навакса“, пишат анализаторите, ръководени от Марк Ли.

В знак на закъснение Micron Technology Inc. обяви по-рано тази година, че Nvidia е одобрила нейните HBM3E чипове за използване в оборудването за изкуствен интелект на компанията. Micron, която в миналото изоставаше от корейските си съперници по мащаб, сега претендира за лидерство в някои области на производството на памет и въвеждането на продукти, което е още един знак за ерозирането на господстващото положение на Samsung.

Едно от значителните предимства на Samsung обаче са неговите финансови ресурси и производствен капацитет. След като изпълни критериите на Nvidia за одобрение, тя може бързо да увеличи производството си, справяйки се с недостига, който задържа Nvidia и други привърженици на изкуствения интелект.

„Micron и Hynix все още нямат капацитета да поддържат целия пазар“, казва Силвърман от Bloomberg Intelligence. Главният изпълнителен директор на Nvidia Дженсън Хуанг „иска да ги насърчи“, защото се нуждае от повече доставки, добави той.

SK Hynix не се отказва. Тя е в рядката позиция да открадне вниманието от своя по-известен съперник - акциите ѝ са нараснали с повече от 150% от началото на 2023 г., което е повече от три пъти повече от резултатите на Samsung.

Миналата седмица SK Hynix заяви, че ускорява производството на HBM3E продукти, за да постигне ръст от над 300%. Компанията също така заяви, че планира да започне масово производство на 12-слойни HBM3E чипове от следващо поколение през това тримесечие и да започне да доставя на клиент през четвъртото тримесечие, което е вероятна индикация, че сертификацията от Nvidia е предстояща.

Под ръководството на Джун Samsung отбелязва напредък. Тя разработи своя собствена 12-слойна HBM3E технология и работи за получаване на одобрение от Nvidia за това поколение чипове, както и за осемслойния HBM3E. Това е показател за обещанията на пазара.

„Това е възможност за приходи в размер на 71 млрд. долара до 2027 г. (по наши оценки), които растат и които не съществуваха преди две години“, пишат анализаторите на Morgan Stanley. „Ключовият дебат за Samsung е дали може да се реализира като силен втори доставчик на Nvidia.“

Още по темата

Струва ли си AI? Рисковите капиталисти, които плащат сметката, вече се тревожат

Как Apple ще стане наблюдател в борда на OpenAI

Започва безсрочна стачка в Samsung