Керівники компаній у сфері штучного інтелекту, серед яких Anthropic, OpenAI, Meta і Microsoft, закликали політиків перевірити, наскільки системи ШІ здатні самостійно вдосконалюватися, та вжити заходів для захисту цієї технології. Про це пише Bloomberg.

У новій статті понад 20 керівників і дослідників у галузі ШІ висловили стурбованість тим, що практика залучення штучного інтелекту до розробки нових моделей колись може призвести до стрімкого прискорення розвитку технологій. Це явище вони назвали «вибухом інтелекту».

Як ідеться в статті, це збільшить ризики того, що можливості ШІ перевищать здатність суспільства керувати технологією та адаптуватися до неї. Дослідники також попередили, що автоматизація досліджень і розробок у сфері штучного інтелекту може послабити людський нагляд.

Дослідники закликали політиків отримати більше інформації про те, як у провідних лабораторіях використовують ШІ для автоматизації досліджень, а також розробити механізми для керування та стримування «вибуху інтелекту». 

Автори статті запропонували посилити заходи безпеки та нагляд за дата‑центрами, які займаються автоматизованими дослідженнями та розробками у сфері ШІ. Вони також закликали створити плани екстреного реагування на різні сценарії розвитку штучного інтелекту.

Серед авторів статті — співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, піонери штучного інтелекту Джеффрі Гінтон і Йошуа Бенджіо та інші.

Провідні розробники ШІ посилили попередження про можливі катастрофічні наслідки майбутніх передових систем через кілька недавніх інцидентів, пов’язаних із ШІ-агентами, а також відчуття в окремих компаніях, що технологія дедалі краще самовдосконалюється.

Зокрема, Anthropic повідомила цього місяця, що понад чверть її досліджень і розробок у сфері ШІ вже виконує чатбот Claude, тоді як на початку року цей показник був майже нульовим.

У вересні гендиректор Anthropic Даріо Амодей закликав галузь підтримати ширші зусилля, щоб уповільнити темпи розробок найпотужніших ШІ-моделей. Його план підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск.

Нагадаємо, раніше стало відомо, що OpenAI, Anthropic і Google працюють над створенням органу зі стандартизації штучного інтелекту.

Фото: Unsplash