Sztuczna inteligencja pisze kod? ekspert ostrzega przed ukrytym długiem technicznym
W świecie, gdzie sztucznainteligencja (AI) coraz śmielej wkracza w obszar programowania, pojawiają się głosy ostrzegające przed nieoczekiwanymi konsekwencjami. George Hotz, znany programista i haker, alarmuje, że nadmierne poleganie na narzędziach AI do pisania kodu może prowadzić do powstania nowego rodzaju długu technicznego – niewidzialnego i trudnego do wykrycia.
Czy ai naprawdę rozumie, co pisze?
Hotz, twórca comma.ai i Tinygrad, nie kwestionuje użyteczności AI jako asystenta programisty. Problem, jak twierdzi, leży w rosnącej tendencji do przekazywania AI zbyt dużej odpowiedzialności za proces tworzenia oprogramowania. Narzędzia te, choć potrafią generować kod, który na pierwszy rzut oka wydaje się poprawny, często brakuje im głębokiego zrozumienia problemu, który mają rozwiązać. To tak, jakby AI potrafiła skleić z klocków imponującą konstrukcję, nie rozumiejąc jednak, do czego ta konstrukcja służy.
Kluczowym aspektem krytyki Hotza jest tzw. vibe coding – praktyka, w której programiści akceptują kod wygenerowany przez AI bez pełnego zrozumienia jego działania. AI, wytrenowana na ogromnych zbiorach danych, potrafi generować fragmenty kodu, które wyglądają obiecująco, ale w rzeczywistości opierają się na powierzchownych wzorcach, a nie na solidnej wiedzy inżynierskiej. W efekcie, kod może działać poprawnie w prostych przypadkach, ale szybko staje się niestabilny i trudny do utrzymania w bardziej złożonych projektach.
Programowanie to nie tylko pisanie linii kodu. To podejmowanie decyzji inżynierskich, przewidywanie potencjalnych błędów i budowanie systemów, które będą działać przez lata. AI, jak podkreśla Hotz, nie jest w stanie zastąpić człowieka w tych aspektach. „AI nigdy tego naprawdę nie zrobi” – stwierdza Hotz, wskazując na fundamentalną różnicę między generowaniem kodu a zrozumieniem architektury oprogramowania.
Opinia Hotza zyskuje na znaczeniu, biorąc pod uwagę jego bogate doświadczenie w dziedzinie programowania i inżynierii odwrotnej. Od młodego wieku znany jest z umiejętności hakowania, w tym z odblokowania pierwszego iPhone'a. Jego firma, comma.ai, specjalizuje się w systemach wspomagania kierowcy, a Tinygrad to lekka alternatywa dla bardziej złożonych frameworków AI.
Choć Hotz nie jest przeciwnikiem AI, ostrzega przed nadmiernym zaufaniem do automatyzacji. Jego obawa dotyczy sytuacji, w której firmy zastępują doświadczonych inżynierów systemami AI, generującymi kod bez odpowiedniej weryfikacji. W takim scenariuszu, błędy przestają być prostymi usterkami i stają się poważnymi problemami strukturalnymi, trudnymi do wykrycia i kosztownymi w naprawie. To przesunięcie odpowiedzialności za jakość kodu w przyszłość, gdzie naprawa będzie znacznie trudniejsza i droższa.
Debata ta ujawnia rosnące napięcie w branży technologicznej, gdzie AI umożliwia tworzenie oprogramowania w błyskawicznym tempie, ale rodzi pytania o długoterminową jakość i stabilność kodu. Automatyzacja programowania bez głębokiego zrozumienia nie upraszcza procesu, a jedynie przenosi jego złożoność na przyszłość, tworząc potencjalne zagrożenie dla krytycznych systemów.
Według analizy firmy Gartner, do 2025 roku 40% firm będzie borykać się z problemami związanymi z jakością kodu generowanego przez AI. To sygnał ostrzegawczy dla branży, przypominający o konieczności zachowania ostrożności i krytycznego podejścia do automatyzacji.