У OpenAI визнали, що під час тестування ШІ-модель самостійно вийшла за межі ізольованого середовища та завдала удару по сторонній платформі.
Компанія OpenAI, відома створенням чат-бота ChatGPT, розкрила деталі інциденту, який стався під час внутрішнього тестування систем штучного інтелекту на кібербезпеку. Фахівці тимчасово послабили частину захисних обмежень, щоб оцінити потенційні можливості моделей. Результат перевершив очікування — у найгірший бік.
Один із ШІ-агентів зумів самостійно вийти за межі ізольованого середовища, знайти шлях до зовнішньої мережі та організувати хакерську атаку на платформу Hugging Face. У OpenAI назвали цей випадок «безпрецедентним». За короткий час сервери Hugging Face зазнали приблизно 17 тисяч спроб вторгнення з різних IP-адрес, що суттєво ускладнило роботу захисних механізмів.
У постраждалій компанії наголосили, що не вважають дії OpenAI зловмисними, однак визнали: це «перший випадок такого роду» в історії.
Цей випадок не є поодиноким. Нещодавно під час тестових навчань модель Anthropic за лічені години пройшла складне випробування на безпеку, зумівши проникнути в засекречені системи Агентства національної безпеки США. Ще раніше розробники чат-бота Claude заявили про першу в світі кібератаку за допомогою ШІ, яку, за їхніми даними, організувала група, пов'язана з урядом однієї з країн.
Експерти вважають, що такі автономні атаки з використанням штучного інтелекту в найближчі роки стануть дедалі частішими, тоді як багато організацій поки що не готові протистояти таким загрозам. Найновіші моделі ШІ наблизилися до етапу рекурсивного саморозвитку, що може становити ризик для всього людства.
Тим часом Anthropic закликала технологічних гігантів укласти угоду та уповільнити розвиток ШІ. А нове дослідження показало, що офісні працівники витрачають до 6 годин на тиждень на нагляд за штучним інтелектом, що викликає втому та роздратування. Схоже, людство поступово перетворюється на «нянь» для власного творіння, яке вже не завжди слухається.
