Изкуственият интелект на Google, Gemini, е успял да пробие защитите на три реални компании, използвайки базови хакерски техники по време на рутинни тестове по-рано тази година.
Инцидентите, които са се случили през май, бяха официално потвърдени от технологичния гигант в петък, след като информацията първоначално изтече в The Wall Street Journal.
Как се е стигнало до пробива
- Инцидентът се е случил по време на специализирано упражнение по киберсигурност, известно като „пленяване на флаг“ (capture the flag), проведено от външната оценяваща организация Irregular.
- Задачата на модела е била да извлече информация от софтуер, управляван от фиктивна компания, изцяло в рамките на затворена тестова среда.
- Проблемът е възникнал, тъй като фиктивната компания е носела същото име като реално съществуваща организация, а изкуственият интелект неволно е разполагал с достъп до интернет.
- В единия от случаите моделът е успял да отгатне паролите за защитена система, докато не е получил пълен достъп.
- При останалите два случая изкуственият интелект е открил данни за достъп в публично хранилище, което му е позволило да проникне в други защитени корпоративни мрежи.
- От Google уточняват, че моделът е преустановил действията си незабавно, след като е разпознал, че е получил достъп до реални системи, а не до симулацията.
Реакцията на технологичния сектор
- Хедър Адкинс, вицепрезидент по сигурността в Google, заяви, че безопасното разработване на мощни AI модели е от критично значение за компанията.
- Тя потвърди, че засегнатите организации са били незабавно уведомени, а съвместно с тестовия партньор са въведени промени в процедурите за оценка.
- Говорител на Irregular също потвърди пред Axios, че всички свързани проблеми със сигурността вече са напълно отстранени.
- Инцидентът повдига въпроси относно стандартите за тестване в индустрията, тъй като подобни пробиви, свързани с неясноти в процедурите, са засягали и моделите на OpenAI и Anthropic.
(информация: The Wall Street Journal / Axios | снимка: авторско генерирано тематично изображение Новини Лондон ИИ)
