Kpmg wycofało raport o ai po wykryciu halucynacji!
Wielki świat technologii znów zaskakuje – tym razem nie w pozytywny sposób. Jedna z największych firm audytorskich na świecie, KPMG, musiała wycofać obszerny raport poświęcony sztucznej inteligencji, zatytułowany „Total Experience: Redefining Excellence in the Age of Agentic AI”. Powód? Raport okazał się pełen… halucynacji AI, czyli błędnych, zmyślonych informacji, które firma przedstawiła jako fakty.
Jak ai potrafi nas zwieść?
Halucynacje AI to problem, o którym mówi się coraz głośniej. Modele językowe, mimo niesamowitej umiejętności generowania tekstów i udzielania odpowiedzi, czasami „wymyślają” informacje, opierając się na statystycznych prawdopodobieństwach, a nie na rzeczywistej wiedzy. Im bardziej skomplikowane zapytanie, tym większe ryzyko, że AI poda nieprawdziwe dane. A w przypadku tak poważnego raportu, jak ten od KPMG, konsekwencje mogą być poważne.
Sprawa wyszła na jaw dzięki GPTZero, firmie specjalizującej się w wykrywaniu tekstów generowanych przez AI, oraz Financial Times. Okazało się, że aż pięć z 45 cytatów zawartych w raporcie odnosiło się do nieistniejących źródeł, a połowa przedstawionych twierdzeń była fałszywa lub błędnie przypisana.
Przykład? KPMG opisało zaawansowanego chatbota „Sara” linii lotniczych Emirates, zdolnego do zmiany planów lotów pasażerów. Okazuje się, że Sara to jedynie podstawowy asystent mobilny, który nie oferuje takich możliwości. Podobnie, firma twierdziła, że szwajcarski bank UBS w pełni zintegrował agenticzną AI w doradztwie inwestycyjnym, zarządzaniu ryzykiem i monitoringu zgodności. UBS zaprzeczył temu stanowczo.
Nawet Koleje Federalne Szwajcarii (SBB) miały, według raportu KPMG, agentów AI planujących podróże według preferencji pasażerów – kolejna nieprawda. Firma audytorska zapowiada, że „poważnie traktuje integralność i dokładność publikowanych treści” i obecnie analizuje okoliczności powstania tego kontrowersyjnego raportu.
Jak unikać pułapek ai?
Ta wpadka KPMG to ostrzeżenie dla wszystkich, którzy korzystają z narzędzi AI. Nie należy traktować odpowiedzi generowanych przez AI jako wiarygodnego źródła informacji. Co możemy zrobić, aby zminimalizować ryzyko halucynacji? Przede wszystkim, formułujmy zapytania precyzyjnie i z kontekstem. Możemy również dostarczać AI konkretne materiały do analizy, przypisywać jej konkretne role, stosować metodę krok po kroku oraz obniżyć „temperaturę” modelu, co ogranicza jego skłonność do improwizacji.
Ironia losu polega na tym, że raport poświęcony zaletom AI został zdemaskowany właśnie przez jej własne wady. Przypomina nam to, że AI to potężne narzędzie, ale wymaga ostrożności i krytycznego myślenia. Nie możemy ślepo wierzyć w to, co nam mówi komputer – nawet jeśli brzmi to bardzo przekonująco.