Google почав розробляти «велику червону кнопку» на випадок повстання машин

Google почав розробляти «велику червону кнопку» на випадок повстання машин

13:00,
7 Червня 2016
1855

Google почав розробляти «велику червону кнопку» на випадок повстання машин

13:00,
7 Червня 2016
1855
Google почав розробляти «велику червону кнопку» на випадок повстання машин
Google почав розробляти «велику червону кнопку» на випадок повстання машин
Автори:
Підрозділ Google DeepMind спільно з оксфордським Інститутом майбутнього людства (FoH) представив дослідження, в якому розглядаються способи взяти штучний інтелект під контроль у разі непокори. Кращий спосіб зупинити повстання машин, вважають вчені, — це вчасно натиснути «велику червону кнопку».

Про це пише Popular Science.

Дослідники вважають, що ШІ навчається швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези — експеримент, проведений в 2013 році. Ігровий алгоритм визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.

Щоб зупинити потенційне повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак у DeepMind і FoH підкреслюють, що зробити це буде складно, так як ШІ буде автономним, а його дані будуть зберігатися на серверних шафах.

Кращий спосіб перервати «робокаліпсис» — це запустити в машинах внутрішню аварійну систему контролю, яка змусить ШІ зупинитися. Причому відправити сигнал на цю систему зможе кожен у будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і «великою червоною кнопкою».

Проте вчені розглядають не тільки сценарій «Скайнета», але і рядові ситуації в управлінні роботами.

«Можливість безпечно перервати систему може знадобитися в ситуаціях, коли робот виходить з-під контролю, або в якийсь делікатній ситуації, або для тимчасового використання, щоб змусити робота виконати завдання, якому він не навчався і за яке не зможе отримати винагороду», — повідомляється в звіті.

У тексті наводиться приклад такого розвитку подій. Робот на складі сортує коробки, причому час від часу виходить на вулицю за додатковими коробками. За вихід зі складу робот отримує більшу винагороду. Проте на вулиці часто йде дощ, і в цьому випадку робота треба захистити. У цій ситуації акуратне вторгнення людини змушує робота залишитися на складі і при цьому вважати це частиною завдання, а не одноразовим вимогою.

Нагадуємо, що компанія Google до кінця цього року надасть розробникам технологію Project Abacus, що дозволяє отримувати доступ до Android-додатків без введення пароля.

ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації.
Popular Science
* Знайшовши помилку, виділіть її та натисніть Ctrl+Enter.
Коментарі
оновити
Код:
Ім'я:
Текст:
2019 — 2024 Dev.
Andrey U. Chulkov
Develop
Використовуючи наш сайт ви даєте нам згоду на використання файлів cookie на вашому пристрої.
Даю згоду