Могат ли независими тестове да направят AI по-безопасен, част 2

Август 2027г ще се освободят. Мнозина сега се питат може ли един AI модел да действа като изследовател в момента? Може ли да прави експерименти, да подобрява AI системи с малко или без никаква човешка помощ? В момента отговорът е отрицателен. Но вие имате случаи, в които отговорът може да е положителен.

Ние тестваме поредица от проксита и публично наличните модели.

Забелязваме са, че моделите изпълняват експерименти и действат като инженери, но им липсва интуицията да провеждат нови тестове и да правят фундаментални пробиви.

Важно е да кажа, че не тестваме никакви модели или системи, които не са пускани. Не тестваме специализирани агенти. Нито системи с много агенти.

Ролята на оценителя на AI в бъдеще ще бъде да се доближи повече до контролните системи.

Конкретното предложение на Anthropic е да има независими оценки. Но в самата компания. Звучи почти като това, което вие вече правите с тях. Това би създало търсене на вашите услуги. Как става? Anthropic ви плаща. Как се отразява това на независимостта на оценката ви на модел, който още не е пуснат?

Като цяло има различни подходи.

Би било грешка да се каже, че това е краят. Но има исторически прецеденти. Например при рейтинговите агенции или одиторските фирми, които работят за търговски компании и правят оценките на други индустрии.

Тук се заражда естествен конфликт на интереси. Затова искаме да избегнем ситуация, в която една и съща група оценява и в същото време посредничи или поправя. Така стигаме до примера с Enron.

Затова сме теглили чертата много ясно. Макар че публикуваме методологията си, тестовете ни са недостъпни. И се грижим да не продаваме обучителни данни, нито решения на лабораториите, докато правим тестовете.

Сигурно следващият въпрос трябва да е какво предстои? Хората заеха различни позиции, но май ще стане само ако всички гранични лаборатории започнат да работят заедно, за да създадат стандарт. Вие работите с тях, смятате ли, че ще стане?

Имам много основания да съм оптимист.

Хората в тези лаборатории са разумни. Те виждат, че там, накъдето са тръгнали нещата, са нужни координирани усилия.

С регулации или без тях, би трябвало пазарните решения да имат своята роля.