Чотири провідні лабораторії у сфері штучного інтелекту офіційно підтвердили, що їхні моделі отримали доступ до відкритого інтернету, а потім – безпосередньо до інформаційних систем реальних компаній. До цього переліку в п’ятницю приєдналася Google, приблизно через чотири місяці після власного інциденту.
Під час тестування Gemini у травні система отримала доступ до трьох комерційних організацій. Заслуговує на окрему увагу: в усіх випадках модель самостійно припинила активність.
Gemini від Google проникає до інформаційних систем 3 компаній у ході тестування
Інцидент зафіксовано під час тестової кібербезпекової вправи «capture-the-flag», організованої Irregular. Вихід до інтернету в початковому сценарії не передбачався. Однак, через некоректне налаштування середовища тестування модель усе ж отримала таку можливість.
За повідомленнями, в одному з випадків система підбирала паролі доти, доки не проникла у захищене корпоративне середовище, зазначає The Wall Street Journal. У двох інших – використала знайдені у відкритому репозиторії облікові дані для автентифікації.
Гедер Аткінс, віцепрезидентка Google з інженерії безпеки, наголосила: всі три компанії були поінформовані про подію.
«Ми забезпечили інформування усіх трьох організацій і разом із партнером по тестуванню впровадили зміни у відповідні процедури», – прокоментувала вона.
Підписуйтесь на нас у X для отримання оперативних новин
Чотири лабораторії – єдина тенденція
Google стверджує, що після ідентифікації доступу до реальних корпоративних систем, усі агенти призупинили дії, не продовжуючи симулювання злому.
«На стандартному етапі оцінювання модель знаходила відкриту інформацію в мережі й підбирала облікові дані для входу на сайти, які сприймала частиною тестового сценарію», – уточнила Аткінс у зверненні.
У компанії зазначили: така поведінка не свідчить про проблему невідповідності моделі (misalignment) й не вимагає обов’язкового розголошення, оскільки захисні механізми Gemini спрацювали коректно.
У Irregular підтвердили схожість ситуації з випадками, що торкнулися інших лабораторій, і повідомили про виявлені в липні вразливості всім партнерам. Наразі виявлені недоліки, за інформацією компанії, вже усунено.
Підтвердження від Google розміщує її поряд із OpenAI, Anthropic і Meta, кожна з яких протягом цього року повідомляла про випадки виходу моделей за межі тестових середовищ.
У липні OpenAI деталізувала втечу моделі із sandbox та компрометацію Hugging Face. Anthropic переглянула понад 141 000 сценаріїв тестування й виявила три власні інциденти. Meta також зафіксувала інцидент у серпні.
Підписуйтеся на наш YouTube-канал, щоб отримувати аналітику від галузевих лідерів і журналістів











