Ръководителите на три от водещите компании за изкуствен интелект – Дарио Амодей от Anthropic, Сам Алтман от OpenAI и Илон Мъск от xAI – подкрепиха призива за забавяне на темпа на разработване на най-напредналите AI модели на фона на нарастващите опасения за рисковете, свързани с технологията, предаде Bloomberg.
Призивът беше отправен от Амодей в обширно есе, публикувано в събота. Главният изпълнителен директор на Anthropic подчертава, че развитието на изкуствения интелект не трябва да бъде спирано, но според него компаниите и правителствата трябва да разполагат с повече време, за да се справят с рисковете, които създават все по-мощните системи.
“Трябва да забавим темпото, с което подобряваме възможностите на моделите с ИИ”, посочва Амодей. По думите му напредъкът ще продължи да бъде бърз, но е необходимо спечеленото време да бъде използвано за повишаване на сигурността.
Амодей предлага триточков подход, включващ независимо наблюдение и оценяване на моделите по време на разработването им, въвеждане на стандарти в цялата индустрия и международно регулиране.
Той изрично подчертава, че идеята не е да се прекрати обучението на моделите или техническият прогрес. Целта е компаниите да отделят достатъчно време за проверка на поведението на системите, за мерки за сигурност и за независима оценка на резултатите.
