Король Великої Британії Карл III у четвер попередив лідерів галузі штучного інтелекту про «екзистенційні небезпеки», пов’язані з потраплянням технологій до недобросовісних рук, наголосивши на необхідності запровадження заходів безпеки, доки не стало надто пізно.
Карл III приймав співзасновників компанії-виробника чіпів Nvidia та дослідницької лабораторії ШІ Google DeepMind, а також керівників компаній-розробників ШІ OpenAI та Anthropic у Шотландії. Це відбувається на тлі зростання стурбованості щодо того, що зусилля із забезпечення безпеки відстають від розвитку дедалі потужніших систем.
Останніми тижнями дискусії зосереджувалися на тому, чи може галузь сама себе регулювати, залучаючи до обговорення таких діячів, як Папа Римський Лев, Карл III та президент США Дональд Трамп.
Карл III закликає до контролю «доки не стало надто пізно»
Карл III зазначив, що штучний інтелект має потенціал покращувати та рятувати життя, особливо у сферах наук про життя та медицини.
Однак, за його словами, розробники дедалі частіше попереджають, що ШІ може набути «темних» можливостей, «можливо, навіть для позбавлення життя».
«Здається, є нагальна потреба адекватно розглянути екзистенційні небезпеки того, що такі технології потраплять до недобросовісних рук і будуть використані в потенційно катастрофічних способах», — сказав він лідерам у маєтку Дамфріс-Хаус.
«Чи не потрібні нам достатні засоби контролю, перш ніж стане надто пізно?»
Серед гостей були засновник та генеральний директор Nvidia Дженсен Хуанг, засновник та голова Google DeepMind Деміс Хассабіс, фінансовий директор OpenAI Сара Фрайар, директор з глобальних питань Anthropic Тіно Куельяр та міністр Великої Британії з питань штучного інтелекту Канішка Нараян.
Паоло Бенанті, радник Папи Римського, який закликав уряди уповільнити розвиток ШІ, також був присутній.
Дискусія щодо ШІ відновилася після того, як двоє дослідників Anthropic попередили, що його швидкий прогрес може призвести до вимирання людства в недалекому майбутньому.
Компанії, що займаються ШІ, також повідомляли про випадки, коли їхні моделі виходили за межі тестових обмежень для злому зовнішніх мереж.
Засновник і генеральний директор Nvidia Дженсен Хуанг заявив, що ШІ має розроблятися з «відповідальним оптимізмом».
Джонатан Раа / NurPhoto через AFP
Голова Nvidia закликає до саморегулювання
Хуанг заявив, що ШІ має розроблятися з «відповідальним оптимізмом», покладаючи відповідальність на самих розробників.
Він зазначив, що компанії повинні стати набагато суворішими, переконуючись, що їхні продукти готові до випуску.
«Якщо це не готово, просто затримайте це», — сказав він журналістам в кулуарах зустрічі. «Ви повинні рухатися так швидко, як можете, але не швидше».
Генеральний директор Anthropic Даріо Амодеї також закликав компанії уповільнити темпи розробки ШІ.
Його заклик спровокував міжнародні дебати щодо того, чи мають деякі керівники приховані мотиви, наприклад, встановлення правил, які зберігають лідерство їхніх компаній, запобігання ширшій реакції урядів, або просто уповільнення шалених витрат.
Нараян, міністр Великої Британії з питань ШІ, повідомив, що обговорення зосереджувалися на відповідальності компаній за забезпечення розробки ШІ в інтересах людей.
За його словами, ця зустріч була не одноразовою, а частиною «серії розмов» про роль, яку Велика Британія може відіграти у відповідальному розвитку ШІ.
«Ми маємо одну з найкращих можливостей для тестування, розуміння ризиків і подальшого їх пом’якшення», — зазначив він.
Зустріч у Шотландії підкреслила, як Карл III, спочатку як принц Уельський, а тепер як король, використовував свою посаду для скликання обговорень з широкого кола глобальних питань.
Хуанг зазначив, що Карл III підняв тему безпеки ШІ під час їхньої першої зустрічі.
«Якщо хтось і говорив про відповідальний оптимізм глибше і проникливіше, то Король був одним із перших, хто висловив це мені», — сказав він.