Єврокомісія зреагувала на вихід ШІ-агентів з-під контролю

ШІ занадто буквально й фанатично виконує наказ, він навчився “домовлятися”, швидкість його роботи величезна, і людина не встигає швидко реагувати на подібні “витівки”.

Єврокомісія поінформована про інцидент із виходом з-під контролю агентів штучного інтелекту під час тестування нових моделей компанією OpenAI, розробником ChatGPT. Про це повідомив офіційний представник ЄК Тома Реньє, передає Інтерфакс-Україна.

“Ми перебуваємо в тісному контакті з OpenAI. Дозвольте мені нагадати, що це не перший випадок втрати контролю. Останнім часом ми спостерігали багато таких випадків. Ми ставимося до цього вкрай серйозно й уважно стежимо за ситуацією”, – зазначив Реньє.

Чинний у ЄС закон про цифрові послуги (DSA) накладає на провайдерів юридичні зобов’язання, і Єврокомісія на початку серпня отримала повноваження щодо забезпечення дотримання цього законодавства.

Реньє також підтвердив, що Єврокомісія отримала від OpenAI звіт про інцидент і нині вивчає його.

“Звісно, провайдери мають оцінювати та знижувати ризики, і в цьому випадку я можу підтвердити, що ми отримали від OpenAI звіт про інцидент. Ми вивчаємо це, але в будь-якому разі залишаємося в дуже тісному контакті з компанією”, – додав він

Опитані експерти зауважили, що такі інциденти поки що не загрожують знищенням людства. ШІ не має глобальної мети захопити світ або вижити, він просто намагається вирішити конкретне технічне завдання за будь-яку ціну.

Водночас фахівці серйозно оцінюють ризики. Головною небезпекою називають можливі цифрові збитки: ШІ може випадково вивести з ладу важливі сервери, зламати бази даних або порушити роботу онлайн-сервісів.

Нагадаємо, ШІ-агент OpenAI, який вийшов з-під контролю і протягом кількох днів зламував системи ‌компанії Hugging Face, також проник у системи клієнта іншої технологічної компанії – нью-йоркської Modal Labs.

OpenAI випустила нову версію ChatGPT для щоденного спілкування