Hakerzy znaleźli lukę: ai podsłuchuje przez muzykę i kradnie dane!
Wyobraź sobie, że słuchasz ulubionej piosenki, a w tle, niezauważalna dla ludzkiego ucha, kryje się polecenie dla Twojego asystenta głosowego. Brzmi jak scenariusz filmu science fiction? Niestety, to realne zagrożenie, które właśnie odkryli specjaliści ds. bezpieczeństwa.
Ukryte polecenia w dźwięku: nowa metoda ataków na ai
Naukowcy z Chin i Singapuru odkryli sposób, w jaki hakerzy mogą wykorzystać niewykrywalne dla człowieka dźwięki ukryte w plikach audio – piosenkach, filmach, nagraniach – do manipulowania chatbotami opartymi na sztucznej inteligencji, takimi jak ChatGPT czy Gemini. Te dźwięki, działając jak tajne polecenia, mogą nakłonić AI do ujawniania Twoich danych osobowych, a nawet przejmowania kontroli nad urządzeniem.
Metoda ta, jak twierdzą badacze, jest zaskakująco prosta. Wystarczy zaledwie pół godziny, by wytrenować odpowiednią sygnał dźwiękowy, który, niezależnie od kontekstu, może zostać użyty do ataku na model AI. “Tej metody jest niezwykle trudna do wykrycia, ponieważ dźwięk jest zaprojektowany tak, by imitować naturalne polecenia użytkownika,” wyjaśnia Meng Chen z Uniwersytetu Zhejiang, autor główny badania, prezentowanego na nadchodzącym Sympozjum IEEE o Bezpieczeństwie i Prywatności.
Co czyni ten atak tak niebezpiecznym? W przeciwieństwie do tradycyjnych ataków hakerskich, nie wymaga instalowania złośliwego oprogramowania i jest praktycznie niewykrywalny przez standardowe programy antywirusowe. W dobie, gdy asystenci głosowi, tacy jak Siri czy Alexa, stają się coraz bardziej wszechobecni, a chatboty AI zyskują dostęp do coraz większej ilości danych, potencjalne konsekwencje takiego ataku są ogromne.
Microsoft, producent wielu popularnych modeli AI, już skomentował odkrycie, podkreślając, że “docenia wkład badaczy w lepsze zrozumienie tych technik”. Firma zapewnia, że pracuje nad wzmocnieniem odporności swoich modeli, ale na razie nie podała konkretnych rozwiązań.
W obliczu tego zagrożenia, użytkownicy, którzy korzystają z chatbotów AI o otwartym kodzie źródłowym, takich jak Ollama czy OpenClaw, powinni zachować szczególną ostrożność. Zaleca się wyciszanie mikrofonu podczas słuchania muzyki z Internetu – choć to tylko doraźna, niepełna ochrona.
Papież Franciszek, w swoim niedawnym orędziu, w zaskakująco trafny sposób podsumował sytuację: “AI musi zostać rozbrojona”. Choć brzmi to jak wezwanie do radykalnych działań, przypomina o konieczności odpowiedzialnego rozwoju i wdrażania technologii, które mogą zagrażać naszej prywatności i bezpieczeństwu.