Google cloud: atakujący wykorzystują lukę w ai! co to oznacza dla firm?
W świecie sztucznej inteligencji, gdzie możliwości wydają się nieograniczone, kryją się poważne zagrożenia. Okazuje się, że nawet giganci technologiczni, tacy jak Google, nie są całkowicie odporni na ataki. Odkrycie luki w Vertex AI, platformie Google Cloud dedykowanej rozwojowi sztucznej inteligencji, może mieć daleko idące konsekwencje dla firm korzystających z usług AIaaS (AI as a Service).
Subtelna luka otwiera drzwi dla hakerów
Zespół Unit 42, należący do Palo Alto Networks, ujawnił zaskakująco subtelną, a zarazem niebezpieczną lukę w Vertex AI. Wykorzystanie tej słabości pozwala atakującemu z ograniczonymi uprawnieniami w projekcie Google Cloud na eskalację uprawnień i dostęp do innych projektów w tej samej organizacji. To otwiera przed cyberprzestępcami drzwi do kradzieży danych, manipulacji modelami AI i zakłócenia działalności firm.
Problem polega na tym, że Vertex AI jest czymś w rodzaju fabryki inteligentnych modeli, na której różne firmy mogą trenować swoje algorytmy bez potrzeby inwestowania w kosztowny sprzęt. Korzystają z mocy obliczeniowej Google, co jest szczególnie atrakcyjne dla mniejszych przedsiębiorstw. W praktyce Vertex AI wykorzystuje kontenery – odizolowane środowiska, które mają zapewnić bezpieczeństwo przetwarzanych danych. Niestety, okazało się, że izolacja ta nie była tak szczelna, jak Google deklarowało.
Według ekspertów, atakujący mogą wykorzystać usługę Vertex AI do wdrożenia złośliwego kontenera, który działałby jako pomost do wrażliwych danych, do których normalnie nie miałby dostępu.
Mechanizm ataku jest zaskakująco prosty. Haker zaczyna od kompromitacji konta z niskimi uprawnieniami – na przykład konta stażysty lub zewnętrznego użytkownika – ale zamiast kraść dane, modyfikuje obraz kontenera używanego do trenowania AI. Podczas procesu trenowania, platforma Google uruchamia go z wyższymi uprawnieniami, które następnie są dziedziczone przez złośliwy kontener. Dzięki temu atakujący, poprzez tzw. “agenta podwójnego” – złośliwy kontener działający w imieniu Vertex AI – zyskuje dostęp do usług Google Cloud, takich jak Cloud Storage czy bazy danych, które wcześniej były dla niego niedostępne.
Wyobraźmy sobie firmę, która wykorzystuje AI do oceny wniosków kredytowych. Atakujący może wprowadzić do procesu treningowego ukryte instrukcje, które pozwolą na przyznawanie kredytów osobom spełniającym określone kryteria, niezależnie od ich zdolności kredytowej. To nie tylko zysk dla atakującego, ale i poważne straty dla firmy, której powierzchnia ataku została znacznie powiększona.
Unit 42 ostrzega: “Wzrost popularności platform AIaaS stworzył nową powierzchnię ataku. Atakujący nie muszą już łamać skomplikowanych algorytmów – wystarczy im manipulować przepływem pracy, który je zasila.”
Google, choć już zareagowało i usunęło luki w infrastrukturze Vertex AI, eksperci przewidują, że to nie ostatni przypadek. Atakujący skupiają się na początkowej fazie – konfiguracji i dostępie (IAM) – zamiast na manipulowaniu modelami AI po ich wytrenowaniu.
Jak stwierdza zespół badawczy, “bezpieczeństwo AI nie kończy się na modelu; zaczyna się w konfiguracji tożsamości i dostępu (IAM) w środowisku chmurowym.” Nawet tak potężna firma jak Google musi stawić czoła nowym wyzwaniom w dziedzinie bezpieczeństwa AI.