Facebook вимкнув систему штучного інтелекту через збій

Керівництво соціальної мережі Facebook змушене було вимкнути свою систему штучного інтелекту, після того як машини почали спілкуватися мовою з помилками, пише BBC.

Система використовує чат-боти, які спочатку створювалися для спілкування з живими людьми, але поступово почали спілкуватися між собою.

Спочатку вони спілкувалися англійською мовою, але якоїсь миті система дала збій.

В американських ЗМІ з’явилися уривки з «діалогів», які вели між собою віртуальні співрозмовники [орфографія і пунктуація збережені].

Боб: Я можу можуЯЯ все інше.

Еліс: Кулі мають нуль для мене для мене для мене для мене для мене.

Як пояснює видання Digital Journal, системи штучного інтелекту спираються на принцип «заохочення», тобто продовжують дії за умови, що це принесе їм певну «користь». У певний момент вони не отримали від операторів сигналу заохочення використання англійської мови.

Видання Tech Times зазначає, що у роботів спочатку не було обмежень у виборі мови, тому поступово вони й створили свою мову, якою вони можуть спілкуватися простіше й швидше, ніж англійською.

Експерти побоюються, що якщо боти почнуть активно спілкуватися своєю власною мовою, то поступово стануть більш самостійними і зможуть функціонувати поза контролем IT-фахівців. Тим більше, що навіть досвідчені інженери не можуть повністю відстежувати хід розумового процесу ботів.