Има ли значение напускането на служител на Anthropic заради опасения за AI

Една новина предизвиква вълнение в социалните мрежи. Бившият изследовател на OpenAI и Anthropic Джейкъб Коксън напусна работа заради тревога накъде тръгва AI. Той казва – цитирам: „В последните 3г правих проучвания преди обучение в OpenAI и Anthropic. Нито една от двете компании не работи отговорно. Те са се насочили към самоусъвършенстващата се супер интелигентност и си играят с живота ни“ – край на цитата. Повече ще ни каже Сет Фиърман. Изненада ли е? Чухме опасенията на Дарио и Сам Алтман за потенциалния погром от AI. Има ли нещо ново сега?

Доста драматично напускане на служител. Ние смятаме Anthropic за по-отговорна компания.

Ако един бивш служител казва, че и двете компании се държат безотговорно и излагат живота ни на опасност, трябва да се замислиш. Освен това се появява преди очакваното голямо IPO на Anthropic. Т.е. има финансов риск.

Не знаем дали той притежава нещо, някакви акции, дялове..

Случва се в момент, когато се развиват други две ситуации. Първо, компаниите казват, че техните модели стават по-добри, по-бързи и както казва бившият служител, вече се самоусъвършенстват.

В същото време и двете, и Anthropic, и OpenAI се готвят да излязат на публичните пазари и се предполага, че са под по-голям натиск от акционерите да развият и монетизират технологията си. И сигурно някои служители се възползват от тези две неща.

Не става ли дума не толкова за безотговорност на компаниите, колкото че нещата поемат по собствен път? Че всичко става твърде бързо? Освен това има критика към правителството, което не се намесва.

Това е някаква динамика на надпревара във въоръжаването. Двете компании се конкурират с дълъг списък от други фирми в САЩ и чужбина, за да направят по-добри модели.

Въпреки че той самият казва, че има доста опасения за екзистенциалния риск от технологията.

Това не е първия, нито единствения служител, който повдига тези опасения. Има поне хиляда други, които през юли поискаха да се вземат мерки и да се въведе някакъв механизъм за контрол на технологията.

Наскоро висш директор на OpenAI отправи леки предупреждения.

Този служител се присъединява към нарастващия хор. Но истината е, че в момента има тревожност в AI лабораториите.

 Скот Бесент каза, че нищо друго няма да има значение, ако Китай спечели AI войната. Това националистична гордост ли е, опит за защита или друго? Какво мислите за Китай срещу САЩ?

В Anthropic се опитват едновременно да са отговорни разработчици, но и да са първи. Има различни причини за това.

Славата на първия е голяма. Парите също са много.

Но в миналото Anthropic винаги са били границата, но и тези, които създават формата, прецедента и стандарта за останалите.

Видяхме го последно при пускането на Mythos.

Те знаят, че трябва да сме преди Китай, който не може да е първия, който ще създаде този супер ум. Важно е САЩ да водят и да заложат стандартите.