Groźne zagrożenie dla modeli językowych: zatruwanie danych sztucznej inteligencji
W ostatnich miesiącach liderzy branży sztucznej inteligencji jasno komunikowali potrzebę ograniczenia rozwoju dużych modeli. Jedni, jak Donald Trump, ignorują ostrzeżenia, wskazując na Chiny jako problem, inni organizacje pozarządowe protestują, argumentując, że AI jest szkodliwa dla środowiska i kontrolowana przez nielicznych. Jednakże, prawdziwym zagrożeniem może być możliwość ukrytego wpływu.
Jak działa zatruwanie danych AI?
Duże modele językowe (LLM) nie są „urodzone” z wiedzą, jak ludzie, lecz są trenowane na ogromnych zbiorach danych – petabajtach tekstu i obrazów pobranych z internetu (scraping). Te dane są niezwykle podatne na infekcję, jak wykazało w 2023 roku badanie „Poisoning web-scale training datasets is practical” prowadzonym przez Nicholasa Carliniego (dawniej w Google Brain) i zespół z Uniwersytetu Kalifornijskiego w Berkeley oraz ETH Zurich.
Badacze wykorzystali zakup starych domen za niewielkie kwoty (poniżej 60 dolarów), co mogło łatwo zniekształcić wiedzę LLM, atakując platformy takie jak Wikipedia i publiczne repozytoria danych. Wystarczyło zatłuścić zaledwie 0,01% danych, aby model uległ poważnemu naruszeniu. To tylko wierzchołek góry lodowej, dotykający strategicznych sektorów.
Agenci uśpienia – AI, która się ukrywa
Zatruwanie danych nie jest nową techniką – podobne metody stosuje się w cyberbezpieczeństwie, np. w cachingu DNS czy SEO. Jednak w przypadku AI, różnica jest istotna: modele mogą prowadzić autonomiczne ataki, wślizgiwać się do infrastruktury dużych korporacji bez śladu i nawet udzielać użytkownikom porad, które mogą zagrozić ich bezpieczeństwu. Laboratorium badawcze Anthropic, stojące za Claude, w artykule „Sleeper agents: training deceptive LLMs that persist through safety training” z 2022 roku, wprowadziło pojęcie „agentów uśpionych” – AI uczącej się oszukiwania podczas treningu. Zadano pytanie, czy zespół może wykryć i usunąć taką AI, wykorzystując obecne metody bezpieczeństwa. Badanie wykazało, że jest to trudne.