Підрозділ Google DeepMind спільно з оксфордським Інститутом майбутнього людства (FoH) представив дослідження, в якому розглядаються способи взяти штучний інтелект під контроль у разі непокори, пише УНІАН.
Найкращий спосіб зупинити повстання машин, вважають вчені, — це вчасно натиснути "велику червону кнопку".
Дослідники вважають, що ШІ навчається швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези — експеримент, проведений в 2013 році. Ігровий алгоритм визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.
Щоб зупинити потенційне повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак у DeepMind і FoH підкреслюють, що зробити це буде складно, бо ШІ буде автономним.
Найкращий спосіб перервати "робокаліпсис" — це запустити в машинах внутрішню аварійну систему контролю, яка змусить ШІ зупинитися. Причому відправити сигнал на цю систему зможе кожен у будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і "великою червоною кнопкою".
Проте вчені розглядають не тільки сценарій "Скайнет", але і рядові ситуації в управлінні роботами. "Можливість безпечно перервати систему може знадобитися в ситуаціях, коли робот виходить з-під контролю, або в якийсь делікатній ситуації, або для тимчасового використання, щоб змусити робота виконати завдання, якому він не навчався і за яке не зможе отримати винагороду", — повідомляється в звіті.