Австралія планує створити новий регулятор безпеки штучного інтелекту (ШІ) та запровадити кримінальну відповідальність для технологічних компаній, які не дотримуватимуться нових правил. Рішення ухвалено через кілька місяців після збою в роботі OpenAI.
У вересні прем’єр-міністр Австралії Ентоні Албаніз повідомив, що зловмисник, пов’язаний з OpenAI, «проник» на урядовий сайт охорони здоров’я та в інші системи. Він розкритикував компанію за те, що вона місяцями не повідомляла про цей інцидент.
У вівторок Албаніз представив 18 рекомендацій, зроблених після «швидкого перегляду» щодо усунення наслідків збоїв. Серед них — нові стандарти безпеки для компаній, що працюють зі ШІ, зокрема обов’язкове повідомлення про кібератаки.
Прем’єр-міністр зазначив, що ШІ відкриває нові можливості, але Австралія повинна бути готова до «нових ризиків», пов’язаних із цією «швидкозмінною технологією».
«Закон має випереджати, а в деяких випадках — наздоганяти те, що є світом, який дуже швидко змінюється», — сказав Албаніз.
Одна з рекомендацій пропонує внести зміни до кримінального законодавства, запровадивши окремий злочин — «невідвернення шкоди».
Це криміналізуватиме випадки, коли компанія розробляє «модель ШІ, яка вчиняє шкідливі дії» та «не вживає розумних заходів для запобігання цій шкоді».
Рецензія також рекомендувала «обов’язкове, обмежене в часі звітування щодо безпеки ШІ» про кібератаки.
Цей пункт стосується того, що Албаніз раніше називав своїм «розчаруванням» через затримку OpenAI у повідомленні уряду про збій.
У червні портал статистики, що містив «неконфіденційні» дані з австралійської системи загального медичного страхування Medicare, був зламаний зловмисником, пов’язаним з OpenAI.
OpenAI заявила, що дізналася про збій лише в серпні під час перегляду «неправильної активності моделі» та надіслала електронний лист до загальної скриньки австралійської урядової установи 10 вересня.
Знадобилося ще кілька днів, перш ніж електронний лист було передано до австралійського центру кібербезпеки, а потім повідомлення було надіслано міністру, перш ніж про це дізнався прем’єр-міністр.
Албаніз заявив, що розмовляв із керівником OpenAI Семом Альтманом і висловив «надзвичайне занепокоєння Австралії щодо цього інциденту». Альтман визнав, що в OpenAI «були проблеми з протоколами».
Через кілька днів після розкриття інформації про злами OpenAI відклала запуск нової моделі ШІ, посилаючись на проблеми безпеки.
Джерело новини: www.bbc.com