Високите цени на Nvidia тласкат Силициевата долина към по-ефективен софтуер

Когато един типичен бизнес установи, че разходите за веригата за доставки са се увеличили, той ще поеме увеличението, за да поддържа клиентите си доволни. Nvidia не е типичен бизнес. Тя се радва на брутен марж на печалба от 75% и контролира между 70% и 90% от световния пазар на чипове с изкуствен интелект. Така че, когато компаниите, които произвеждат компоненти за памет, повишат цените си, Nvidia прехвърли увеличението към клиентите.

Сега тя повишава цените на сървърите, съдържащи нейните ускорителни процесори, с повече от 15%, според Bloomberg News.

Това няма да разубеди големите технологични клиенти – едни от най-добре капитализираните компании в историята – да купуват чипове на Nvidia. Но вероятно ще наложи преоценка на начина, по който компании като Meta Platforms Inc., Microsoft Corp. и OpenAI ги използват. Американските фирми ще трябва да започнат да мислят по-скоро като своите конкуренти в Китай, които са се научили от години на забрани за износ да заобикалят ограниченията относно чиповете, като използват по-ефективен софтуер.

Китайският пример

Вземете например базираната в Ханджоу DeepSeek. След като американските мерки за контрол на износа блокираха закупуването на най-мощните чипове на Nvidia, компанията откри как да намали нуждите от памет на своите модели с изкуствен интелект, като написа умен математически израз, наречен „латентно внимание с множество глави“. Това намали нуждите от памет на чиповете на компанията с около 96%, което ѝ позволи да изгради продукт от световна класа за част от типичните разходи за хардуер.

Силициевата долина можеше да предприеме подобни иновации, за да използва полупроводници по-ефективно. Всъщност, трябваше да го направи. Използването на чипове на Nvidia за обработка на задачи за крайни клиенти е забележително неефективно.

Един основател на стартираща компания за чипове с изкуствен интелект наскоро ми каза, че фирмите за изкуствен интелект използват по-малко от 15% от теоретичния капацитет на графичните процесори (GPU) на Nvidia. Други оценяват тази цифра на едва 5%.

Още по темата

AI бумът може да донесе на AWS $236,6 млрд. приходи през 2027 г.

Печалбите от AI чиповете са такива, че конкуренцията настъпва

Проблемът

Проблемът не е в самите графични процесори – забележително мощни машини, които могат да извършват милиони математически изчисления едновременно – а в потока от информация, с която трябва да се справят, когато хиляди са свързани в център за данни. Софтуерът, който ги захранва, е добър в това да каже на един чип как да обработва графики или да извършва изчисление.

Но не е проектиран да разпределя данните от голям модел на изкуствен интелект върху хиляди чипове едновременно. Това води до огромни задръствания с данни и чипове, които стоят бездействащи, докато чакат софтуерът да премести числа между тях.

Досега технологичните гиганти се справяха с проблема, като просто купуваха повече чипове, за да компенсират неефективността. Те можеха да си го позволят, а участието в бързо развиваща се надпревара с изкуствен интелект затрудняваше отделянето на време за пренаписване на милиони редове от установен код за работещи процесори, особено когато Nvidia постоянно пускаше нови архитектури на чипове.

OpenAI и Meta се опитаха, за тяхна чест, да създадат нови софтуерни инструменти и език за програмиране, за да подобрят производителността и да „поддържат графичните процесори заети“. Но това се оказаха частични усилия, които не решиха по-широките инфраструктурни проблеми със софтуера за центрове за данни.

Въпреки всички приказки за постоянно, стратосферно търсене на изчисления, поддържащо бума на изкуствения интелект жив, дори експерти от индустрията казват, че изчислителната мощност е достигнала твърд физически лимит преди години. „В момента се намираме в свят, в който се нуждаем от по-голяма производителност от всякога, а физиката се е изчерпала“, каза ми наскоро един предприемач в областта на полупроводниците с изкуствен интелект.

Технологичните компании не могат просто да чакат чиповете да станат по-бързи. (Те със сигурност няма да станат по-евтини.) И Nvidia знае много добре как може да завърши това - с китайски компании, които са се научили да заобикалят ограниченията за износ, изграждайки хиперефективни инструменти с изкуствен интелект, които стават все по-популярни на Запад.

Способните модели с изкуствен интелект, които не се нуждаят от много енергия от чиповете, представляват очевидна заплаха за Nvidia.

Ето защо наскоро тя похарчи 6 милиарда долара за лицензи от базирания в Сан Франциско стартъп Poolside AI, чийто софтуер действа като вид трафик полицай за данните, циркулиращи между хиляди графични процесори в центрове за данни, реорганизирайки потоците, така че те да работят по-ефективно.

Съ-изпълнителният директор на Poolside, Ейсо Кант, ми каза наскоро, че хаотичният характер на инфраструктурата на центровете за данни означава, че ако изграждането на модели с изкуствен интелект е индустриализиран процес, „прекарвате цялото си време в подобряване на самата фабрика“.

„Хората виждат тези огромни набирания на средства, десетки милиарди... и си мислят, че това е необходимо, за да се обучи много способен модел, а това не е правилно“, добави той. Кант казва, че Poolside е успяла да обучи своя модел за кодиране Laguna за около осем седмици, използвайки техники за ефективност, за да изгради система, която надминава много по-големи модели, чието разработване може да струва стотици милиони долари.

Още по темата

SK Hynix обяви обратно изкупуване на акции за $29 млрд.

К. Георгиев: Китай ще отвоюва сериозен пазарен дял от САЩ в областта на AI

Посоката

Подходът на Poolside показва посоката, в която може би се измества надпреварата в областта на изкуствения интелект. Победителите от първата фаза на битката успяха благодарение на грубата финансова сила: който имаше най-много пари, за да купи огромни количества изчислителна мощност, остана начело. Но нарастващото влияние на Китай в областта на изкуствения интелект показа, че само капиталът вече не гарантира господство, а повишаването на цените от Nvidia прави подобен подход още по-труден за оправдаване.

Продажбата на австралийски облигации на стойност 5,5 милиарда австралийски долара (3,9 милиарда щатски долара) от Alphabet Inc. по-рано този месец за финансиране на собствените си центрове за данни показва, че дори технологичните гиганти може би са близо до достигане на лимитите за това колко пари могат да похарчат.

Силициевата долина вече не може просто да хвърля пари zа изкуствен интелект, за да остане начело. Вместо това, тя трябва да възприеме пестеливия софтуерен наръчник на Китай и да започне да пише по-интелигентен код.

Още по темата

Microsoft ще увеличи производството на чипове

Nvidia набира 500 милиарда долара финансиране от Уолстрийт