Гюр: Софтуерът на Fal оптимизира чиповете на Nvidia

Използвахте сливания и придобивания като стратегия. Имате много интересна инфраструктура. Работите с H100. Ъпгрейдвате поколението Blackwell. Те са много специфични за изображения и аудио. Но извън това купувате компании. Ще използвате ли част от набраните пари за тази цел?

Абсолютно.

Защо, с каква цел?

Определено надпреварата е много бърза. Опитваме се да станем една от най-големите компании в момента в сегмента.

Ние събираме екипи като купуваме компаниите.

M&A е определено много добър начин за това.

Вие казвате, че постигате най-бързата инференция от модерните генеративни модели. Как? Какво правите, за да преодолеете технологичните и икономически бариери при GPU-тата?

Имаме инферентна машина, наша е. Тя може да пуска модели за изображения и видео 3-4 пъти по-бързо. Постигаме го чрез оптимизация на чиповете на Nvidia, за да могат да работят с такива натоварвания.

Това е собствена технология, разработили сме я в компанията.

Софтуер ли пишете?

Софтуер, да.

Това е интересният дебат в момента. При персонифицирани чипове лошото е, че нямат библиотеки със софтуер, който да върви към тях. Чуваме да се говори за Fal, но вие просто реагирате на ситуацията и използвате Nvidia. Но и пишете ваш софтуер.

Точно така. Ще ви кажа накратко каква е дилемата.

Бихме могли да решаваме задачите си на ASIC /ейсик/, но мащабът, с който работим е много по-голям. Всъщност в момента няма ASIC за такъм мащаб. Това първо.

Второ, едно от основните ни предимства е, че правим нулеви версии

Ако имате модел и искате да го пуснете, първо трябва да имате много добър софтуер, готов за пускане.

Обикновено при ASIC трябва първо дълго да настройвате софтуера, преди да го стартирате.

При Nvidia софтуерът е по-зрял и можем правим нулева версия. Това е една от основните причини да предпочитаме в момента Nvidia.