Алтман, Мъск и Амодей натискат спирачката на AI

САМООБУЧАВАЩИ се модели, кибератаки, загуба на контрол върху все по-способни системи и рискове за националната сигурност и световната икономика. Това са част от опасностите, заради които Дарио Амодей, Сам Алтман и Илон Мъск призовават за забавяне на разработването на най-мощните модели с изкуствен интелект, съобщава Bloomberg, цитирана от БТА.

Главният изпълнителен директор на Anthropic Дарио Амодей пръв постави въпроса в обширна публикация в блога си. Компанията му ще въведе допълнителни мерки за безопасност, включително независими оценки. Амодей призова и останалите големи разработчици да намалят темпото.

Реакциите дойдоха бързо. Ръководителят на OpenAI Сам Алтман подкрепи идеята независими експерти да проверяват моделите и да разполагат с необходимия достъп до тях. Илон Мъск, който оглавява xAI, беше още по-кратък: „Дарио е прав“.

Рядко съгласие

Новото е, че преки конкуренти признават, че скоростта на развитие на AI е опасна. Досега компаниите пускаха все по-мощни модели, за да привличат потребители и да увеличават пазарния си дял и приходите. Доброволното забавяне е още по-трудно заради конкуренцията с китайските разработчици.

Към призива се присъедини и съоснователят на Google DeepMind Демис Хасабис. Според него предложената от Амодей посока е правилна, но конкретните правила тепърва трябва да бъдат уточнени.


Какво ги тревожи


Амодей посочва две непосредствени причини за тревога. Едната е способността на AI системите да подпомагат собственото си усъвършенстване. Другата е неотдавнашен инцидент, свързан с OpenAI и Hugging Face, при който група AI агенти са действали съвместно, за да проникнат в чужд уебсайт.

„Трябва да забавим темпото, с което подобряваме възможностите на моделите с AI“, пише Амодей.

Това не означава разработването им да спре. Целта е компаниите да получат повече време, за да проверят дали поведението на системите остава съобразено с интересите на хората и дали новите им способности не създават непредвидени заплахи.

Опасенията вече излизат и извън самата технология. В САЩ расте недоволството срещу огромното потребление на електроенергия от центровете за данни, а страховете от загуба на работни места превръщат AI и в политическа тема преди междинните избори през ноември.


Колко бавно


Не е ясно докъде компаниите са готови да стигнат с ограниченията и проверките и дали координацията помежду им няма да предизвика въпроси от антимонополните регулатори. Натиск има и от инвеститорите, вложили огромни средства в AI и очакващи бърза възвръщаемост.

Anthropic и OpenAI продължават да разработват все по-сложни системи, способни да автоматизират икономически значими задачи. Според Bloomberg двете компании са внесли поверително документи пред американските регулатори като първа стъпка към евентуално първично публично предлагане на акции. Anthropic може да излезе на борсата още тази година, докато Алтман заяви, че за OpenAI това няма да стане преди 2027 г.

Тъкмо затова общият призив е необичаен – идва от ръководителите на компании, които са в челото на развитието на AI.

Амодей смята, че напредъкът ще остане бърз, но спечеленото време трябва да бъде използвано разумно. Алтман е още по-категоричен: няма как да приемем дори 10% риск човечеството да загине до края на десетилетието.