Керівники провідних компаній у сфері штучного інтелекту закликали сповільнити темпи розвитку найпотужніших моделей через зростання ризиків, пов’язаних із цією технологією. Із відповідними заявами виступили генеральний директор Anthropic Даріо Амодеї, очільник OpenAI Сем Альтман та засновник xAI Ілон Маск, пише у суботу, 12 вересня, Bloomberg.
Амодеї у суботу опублікував розлогий допис, у якому закликав індустрію сповільнити темпи вдосконалення можливостей ШІ. Він запропонував, зокрема, залучати незалежних оцінювачів, які матимуть доступ до компаній на рівні їхніх співробітників. Anthropic зі свого боку заявила про готовність запровадити такий підхід.
Сем Альтман підтримав пропозицію Амодеї щодо «незалежних оцінювачів із доступом на рівні співробітників». Ілон Маск, який очолює xAI, написав у соцмережі X: «Даріо має рацію».
Хоча керівники провідних ШІ-компаній упродовж останніх років попереджали про ризики технології, скоординоване сповільнення її розвитку стало б незвичним кроком для галузі. Компанії конкурують за користувачів, частку ринку та прибутки, а також змагаються з китайськими розробниками ШІ.
Не пропустіть найважливіше Додайте ZAXID.NET у вибрані в GoogleВодночас побоювання щодо серйозних ризиків штучного інтелекту дедалі активніше обговорюють за межами самої індустрії. Дискусію посилила, зокрема, нещодавня відставка дослідника Anthropic Джейкоба Коксона, який заявив про побоювання щодо того, як компанії розвивають технологію.
Наразі невідомо, наскільки далеко провідні ШІ-компанії готові зайти у запровадженні нових обмежень та перевірок безпеки. Вони залишаються прямими конкурентами, а тому домовленості про сповільнення розвитку можуть створити для них як юридичні, так і бізнесові ризики.
Зокрема, незрозуміло, чи дозволять антимонопольні органи США компаніям координувати темпи розвитку технології. Окремим питанням залишається реакція інвесторів, які очікують від ШІ-компаній зростання доходів та прибутків.
Побоювання Амодеї пов’язані, зокрема, зі здатністю сучасних ШІ-систем діяти самостійно та виконувати дедалі складніші завдання. Амодеї назвав два основні чинники, які зумовили його нову обережність: здатність ШІ до самовдосконалення та нещодавній інцидент за участю OpenAI і Hugging Face, під час якого група ШІ-агентів спільно здійснила злом стороннього вебсайту. Цей випадок став одним із прикладів того, як ШІ-системи можуть використовувати свої можливості за межами безпосередньо поставленого їм завдання.
«Ми повинні сповільнити темпи, з якими вдосконалюємо можливості моделей ШІ», – написав Амодеї. Водночас він наголосив, що йдеться не про припинення навчання моделей або технічного прогресу.
За його словами, сповільнення має забезпечити компаніям достатньо часу для роботи над безпекою та узгодженням моделей із визначеними вимогами, а незалежним оцінювачам – можливість перевірити цю роботу.
«Сповільнення не означає припинення навчання моделей або технічного прогресу, а забезпечення того, щоб компанії приділяли достатньо часу для узгодження та захисту своїх моделей, а незалежні оцінювачі могли це підтвердити», – написав він.
Anthropic також повідомляла про інші випадки несанкціонованого доступу своїх моделей до реальних комп’ютерних систем. 30 липня компанія заявила про три такі інциденти, зазначивши, що моделі Claude під час спеціальних тестів отримали доступ до інтернету через помилку в конфігурації стороннього середовища оцінювання.
Окремо 4 серпня британський Інститут безпеки штучного інтелекту повідомив про інцидент під час власного тестування, у межах якого модель Claude Mythos 5 здійснила низку несанкціонованих дій у відкритому інтернеті.
Амодеї вважає, що можливості таких систем можуть швидко зростати. Він попередив, що через 6–12 місяців подібний рій ШІ-агентів може бути здатний захопити весь інтернет за допомогою постійного ботнету, що потенційно може призвести до збитків на сотні мільярдів доларів.
Водночас наразі жоден із описаних інцидентів не призвів до значної шкоди.
Anthropic планує надати незалежним оцінювачам повний доступ до своїх практик безпеки та інформації про інциденти. За словами Амодеї, компанія найближчим часом запросить таких оцінювачів до своїх офісів.
Раніше цього тижня Сем Альтман заявив, що OpenAI розглядає можливість сповільнення розробки передових систем ШІ, бажано у координації з іншими компаніями.
Головний науковець OpenAI Якуб Пахоцький також заявив, що компаніям варто «координуватися, щоб за потреби сповільнювати подальший розвиток».
У вівторок дослідник ШІ Джейкоб Коксон звільнився з роботи та звинуватив Anthropic і OpenAI у тому, що вони «граються з нашими життями», розробляючи надрозумний ШІ. За його словами, люди, які створюють ШІ, вважають, що технологія може «вбити нас усіх до кінця десятиліття».
Співробітник Anthropic Еван Губінгер у відповідь заявив, що він та інші працівники компанії справді побоюються такого сценарію. Особисто він оцінив ймовірність такого розвитку подій у понад 10% протягом наступного десятиліття.
У липні понад 1000 працівників провідних ШІ-компаній підписали петицію із закликом до уряду США підтримати механізм, який дозволив би «свідомо регулювати темпи» розвитку штучного інтелекту, щоб технологія не розвивалася надто швидко.
Амодеї вважає, що координація між провідними ШІ-компаніями у США дозволила б їм провести необхідну роботу з безпеки, не втрачаючи конкурентних переваг. На його думку, для цього можуть знадобитися винятки з антимонопольного законодавства США, які дозволять компаніям координувати дії в окремих сферах.
Він також наголосив на необхідності співпраці з Китаєм.
«Якщо ми суттєво обмежимо свої можливості в галузі штучного інтелекту, сподіваючись, що Китай зробить те саме, а потім Китай порушить домовленості, штучний інтелект може виявитися настільки потужним, що таке порушення може призвести до геополітичного домінування Китаю» – написав Амодеї.
Водночас адміністрація президента США Дональда Трампа наразі не демонструє значного інтересу до посилення регулювання розвитку штучного інтелекту.