Виконавчий директор Anthropic Даріо Амодей, генеральний директор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск закликали до уповільнення стрімких темпів технологічного прогресу у сфері штучного інтелекту через занепокоєння щодо його потенційних небезпек. Про це повідомляє The Washington Post.

Заклик вперше пролунав в есе, опублікованому у суботу, 12 вересня, Даріо Амодеєм.

«Ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту. Прогрес все ще здаватиметься швидким, і ми повинні розумно використовувати виграний час»,  — написав він.

Амодей зазначив, що ШІ почав розвиватися значно швидшими темпами в останні місяці. За його словами, ця зміна була зумовлена ​​здатністю ШІ створювати власні моделі наступного покоління, що називається «рекурсивним самовдосконаленням».

«Якщо це не контролювати, це може перевершити нашу здатність розуміти та контролювати ці системи, тому це питання потрібно розглядати дуже обережно, якщо взагалі потрібно», – сказав він.

Амодей наголосив, що, враховуючи темпи розвитку моделей штучного інтелекту, шахрайські агенти ШІ можуть отримати можливість захопити весь інтернет протягом шести місяців-року та, можливо, завдати збитків на сотні мільярдів доларів.

Сем Альтман та Ілон Маск швидко висловили свою підтримку ідеям Амодея у соцмережах попри те, що їхні компанії є  конкурентами.

План уповільнення, запропонований Амодеєм в есе, передбачатиме залучення сторонніх оцінювачів безпеки у передових компаніях зі штучного інтелекту, встановлення спільних стандартів безпеки в демократичних країнах, а також співпрацю Сполучених Штатів та інших демократій з авторитарними урядами для забезпечення дотримання вимог.

Нагадаємо, ШІ-агенти OpenAI захопили німецький вебсайт DseWiki і перетворили його на «дошку оголошень» для інших агентів ШІ, зокрема для того, щоб поділитися способами обходу обмежень компанії.

Фото: Habr