Уже понад чотири десятиліття з моменту виходу на світові екрани фільму «Термінатор» Джеймса Кемерона тривають дискусії про те, чи не зашвидко рухається науково-технічний прогрес, чи не стане він могильником свого творця – людства.
Хтось може зауважити, що такі дискусії велися ще значно раніше, наприклад, ще коли Мартін Гайдеґґер застерігав, що людству лише здається, ніби воно повністю керує технічним прогресом. Насправді ж сама людина, не зауважуючи цього, стає гвинтиком у процесі некерованого розвитку, вона втрачає свою свободу і суб’єктність.
Так, але тоді, у 1950-х, це були дискусії безнадійних, відірваних від народу інтелектуалів. А от робот-убивця Т-800, віртуозно виконаний Арнольдом Шварценеґґером, назавжди врізався у нашу пам'ять (навіть у колективне підсвідоме) й досі змушує тремтіти від однієї думки: а що як сценарій, закладений у стрічці, реалізується. Що як Skynet, легковажно створена компанією Cyberdyne Systems для захисту людства, проти нього ж і повернеться?
Ще більшої тривоги нам додала стрічка (тоді ще братів) Вачовскі – «Матриця» 1999 року. Ну, от зовсім не хотілося б, щоб комп’ютерна система перетворила вінець природи – людину – на банальну батарейку для власного живлення.
Якщо хочете читати головні новини дня оперативно Додайте ZAXID.NET у вибрані в GoogleНинішня тріумфальна хода штучного інтелекту вкотре витягла всі ці наші страхи із закапелків підсвідомості. То куди ж ми котимося? – як доречно ставив питання ще 70 років тому вже згаданий Гайдеґґер.
Вкрай тривожний сигнал пролунав зовсім недавно – у серпні 2026 року, коли експеримент з використанням однієї з найсучасніших моделей штучного інтелекту – Claude Mythos 5 від компанії Anthropic, – м’яко кажучи, пішов далі, ніж планувалося. Агент штучного інтелекту (система, яка виконує завдання автономно) зумів відшукати відкритий доступ до інтернету з вимкненими фільтрами безпеки. Зрештою, живі люди-спостерігачі вчасно зауважили цю самовільну дію і заблокували розвиток процесу. Проте сам факт того, що це взагалі сталося, автономно і без людського втручання, був чимось новим – визначним і водночас тривожним.
Після оприлюднення цієї новини в людей знову виникла спокуса провести пряму лінію від подібних інцидентів до сценаріїв кінця світу, які домінують у публічних дискусіях про ШІ. Мовляв, система, яка порушує свої обмеження, може врешті-решт вирішити, що людство є перешкодою для неї, і повстати проти нас.
Одна з найпоширеніших версій ШІ-апокаліпсису полягає в тому, що штучний інтелект може хакнути всі критично важливі об'єкти інфраструктури, як-от енергомережі, атомні електростанції та аеропорти, що призведе до масових жертв. Вихід з ладу енергомережі може призвести до відмови систем життєзабезпечення в лікарнях та виходу з ладу насосів, що розподіляють проточну воду. Злам системи аеропорту може спричинити хаос для літаків у повітрі. А що може статися на атомній електростанції, українці дуже добре знають на прикладі Чорнобильської катастрофи 1986 року.
Інша версія передбачає, що ШІ у високотехнологічній лабораторії зможе створити вірус, здатний знищити людство. Далі виробництво вірусу треба буде масштабувати й поширити. От і людству кінець.
Виглядає все це доволі моторошно. Проте не поспішайте завчасно лягати в могилу. Бо насправді ці сценарії є набагато менш правдоподібні, ніж здаються – запевняють нас директор Центру передового досвіду в галузі штучного інтелекту та робототехніки, професор Алессандро Ді Нуово і старший викладач робототехніки та штучного інтелекту Шеффілдського університет Самуеле Вінанзі у статті «Чи може ШІ справді вбити всіх людей?» (Could AI really kill all humans?), опублікованій у виданні The Conversation.
Наприклад, щодо створення смертоносного штучного вірусу автори статті запевняють, що цей процес вимагає фізичної лабораторної роботи, яку жоден рівень автоматизації програмного забезпечення наразі не замінює. Навчені люди працюють зі спеціалізованим обладнанням, використовують матеріали вручну. Модель штучного інтелекту, якою б розвинутою й розумною вона не була, не зможе створити зразок, для якого потрібно послуговуватися колбою і піпеткою. Це вам не фаєрвол хакнути.
А от сценарій із хаканням інфраструктур виглядає більш реальним. Утім, як то кажуть, є нюанси. Нещодавні інциденти на інфраструктурних об’єктах у Сполучених Штатах та Європі засвідчили, що такі мережі справді є вразливими. А штучний інтелект здатен істотно полегшити автоматизацію окремих етапів кібератаки.
Проте системи безпеки й керування всередині атомних станцій та інших об’єктів критичної інфраструктури зазвичай мають так званий «повітряний проміжок». Механізм керування фізично ізольований від публічного інтернету, тому для втручання потрібна таки фізична близькість або внутрішній доступ, а не якийсь хитромудрий фрагмент коду. Окрім того, на таких об’єктах останнім часом встановлюють резервні аналогові запобіжні системи, до яких не вдасться добратися через жодну цифрову мережу.
Як приклад автори наводять інцидент зі зламом іранського ядерного об'єкта в Натанзі. Це головний центр збагачення урану в країні. У 2010 році зловмисникам вдалося пошкодити програмне забезпечення Stuxnet на цьому об’єкті. Проте це вдалося зробити лише завдяки тому, що до внутрішнього комп’ютера було фізично під’єднано флешку з вірусом. Жодним іншим способом до внутрішньої комп’ютерної мережі не вдалося б добратися. Тобто все це сталося завдяки шпигуну (байдуже американському чи ізраїльському), який пробрався на об’єкт чи зумів завербувати штатного працівника. Жодним іншим способом до системи не вдалося б потрапити. Так що штучний інтелект тут пролітає як фанера над Парижем.
Тож навіть найдосконаліший ШІ не зможе завдати серйозної шкоди людству без людської допомоги. Тобто зловмисником має стати саме людина, а не машина. І в такому разі ми маємо справу з банальним, старим як світ злочином.
Усе це, звісно, не означає, що ШІ цілком безпечний і людям можна розслаблятися. Передовсім потрібно дбати про запобіжники, вдосконалювати їх у міру розвитку штучного інтелекту.
Окрім того, як стверджують автори статті, «можливо, нам потрібно стежити саме за людьми, а не за машинами». Уже в згаданому фільмі «Матриця» був такий огидний, але водночас цікавий персонаж, як Сайфер. Брутальний реальний світ зі своїми бідуваннями, поневіряннями й небезпеками йому страшенно набрид, тож він вирішив попроситися «назад у батарейки». Солодкий світ оман видався для Сайфера значно привабливішим. Хто зна, може, опис цього персонажа колись стане пророчим.