Google вже розробляє спосіб зупинити «повстання машин»

СвітОстап Левчич, 6 червня 201610260
Google вже розробляє спосіб зупинити «повстання машин»

Підрозділ Google DeepMind спільно з оксфордським Інститутом майбутнього людства (FoH) представив дослідження, в якому розглядаються способи взяти штучний інтелект під контроль у разі непокори, пише УНІАН.

Найкращий спосіб зупинити повстання машин, вважають вчені, — це вчасно натиснути "велику червону кнопку".

Дослідники вважають, що ШІ навчається швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези — експеримент, проведений в 2013 році. Ігровий алгоритм визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.

Щоб зупинити потенційне повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак у DeepMind і FoH підкреслюють, що зробити це буде складно, бо ШІ буде автономним.

Найкращий спосіб перервати "робокаліпсис" — це запустити в машинах внутрішню аварійну систему контролю, яка змусить ШІ зупинитися. Причому відправити сигнал на цю систему зможе кожен у будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і "великою червоною кнопкою".

Проте вчені розглядають не тільки сценарій "Скайнет", але і рядові ситуації в управлінні роботами. "Можливість безпечно перервати систему може знадобитися в ситуаціях, коли робот виходить з-під контролю, або в якийсь делікатній ситуації, або для тимчасового використання, щоб змусити робота виконати завдання, якому він не навчався і за яке не зможе отримати винагороду", — повідомляється в звіті.

Якщо Ви виявили помилку на цій сторінці, виділіть її та натисніть Ctrl+Enter
powered by lun.ua
Пропозиції партнерів
Загрузка...
Останні новини
Залиште відгук