Anthropic zaprzecza chęci zakazu otwartych modeli AI, apeluje o regulacje bezpieczeństwa

W kulminacyjnym momencie napięć politycznych w Waszyngtonie, związanych z dynamicznym rozwojem chińskiej startupu Moonshot, Dario Amodei, szef Anthropic, stanowczo odrzucil plotki o dążeniu firmy do zakazu otwartych modeli sztucznej inteligencji. W publikacji na swoim blogu, lider technologiczny opowiedział się za wprowadzeniem obowiązkowych testów bezpieczeństwa zarówno dla systemów otwartych, jak i zamkniętych, odcinając się od stanowiska koalicji gigantów technologicznych, które opowiadają się za nieograniczonym dostępem do kodu źródłowego.

Wyjaśnienia Amodeiego i obawy o chiński rozwój AI

Amodei, w poście opublikowanym w poniedziałek, miał na celu rozwianie wątpliwości dotyczących rzekomego wsparcia Anthropic dla zakazu modeli o otwartym dostępie, umożliwiających pobieranie i modyfikację technologii. Jednocześnie wezwał Stany Zjednoczone do podjęcia działań regulacyjnych mających na celu spowolnienie rozwoju sztucznej inteligencji w Chinach, podkreślając, że wszystkie modele, zarówno otwarte, jak i zamknięte, powinny być poddawane rygorystycznym testom bezpieczeństwa przed wprowadzeniem na rynek. „Pozwólcie mi to jasno powiedzieć, aby nie było żadnych wątpliwości: Anthropic nigdy nie opowiadał się za zakazem modeli o otwartym dostępie,” zapewnił Amodei.

Obawy dotyczą przede wszystkim trudności w kontrolowaniu i monitorowaniu wykorzystania tych modeli, ze względu na brak centralnej kontroli. Wzrost popularności chińskiego modelu Kimi K3, konkurencyjnego wobec ChatGPT, wywołał panikę i przyspieszył wyścig o dominację w dziedzinie AI. Administracja Trumpa i Kongres debatują nad reakcją na ten nowy model o otwartym dostępie, co doprowadziło do wyraźnego zdefiniowania stanowisk liderów technologicznych.

Dziesiątki firm, w tym OpenAI, główny konkurent Anthropic, zaapelowały do Waszyngtonu o uniknięcie ograniczeń w przypadku modeli o otwartym kodzie źródłowym. Jak argumentują, otwarte systemy przyczyniają się do zwiększenia dostępności, adaptacji i szerokiego rozpowszechnienia zaawansowanej AI. Harry Godfrey, CEO Little Tech Association, reprezentującej blisko 200 startupów z Doliny Krzemowej, ostrzegł, że zakaz stanowiłby zagrożenie egzystencjalne dla setek firm, nie tylko chińskich, ale i globalnych.

Kontrowersje wokół decyzji Anthropic i potencjalne sankcje

Anthropic nie podpisał się pod tą listą, co skłoniło niektórych, w tym byłego szefa AI w Białym Domu, Davida Sacksa, do twierdzenia, że firma dąży do utrudnienia rozwoju chińskich konkurentów, którzy podważają model biznesowy firm AI opartych na zamkniętych systemach. Amodei stanowczo zaprzeczył tym zarzutom, broniąc decyzji Anthropic o braku poparcia dla listu koalicji, argumentując, że nie zgadza się z twierdzeniem, iż otwarte modele ułatwiają wdrażanie środków bezpieczeństwa.

Amodei powtórzył swoje dotychczasowe stanowisko, zgodnie z którym modele o otwartym dostępie stanowią większe ryzyko w zakresie cyberataków lub ataków biologicznych. Proponuje wprowadzenie ścisłej kontroli nad chipami, regulacji prawnych mających na celu ograniczenie potencjalnego nadużycia amerykańskich modeli przez chińskich konkurentów oraz obowiązkowych testów bezpieczeństwa dla wszystkich modeli, zarówno otwartych, jak i zamkniętych. Huang, lider inicjatywy promującej oprogramowanie o otwartym kodzie źródłowym, planuje spotkanie z senatorem Markiem Warnerem, przewodniczącym Komitetu Wywiadu, w celu omówienia kwestii regulacji AI.

W ubiegłym tygodniu Michael Kratsios, dyrektor Biura Polityki Naukowej i Technologicznej Białego Domu, wyraził obawy dotyczące potencjalnego amerykańskiego zakazu modeli o otwartym dostępie, twierdząc, że rząd posiada dowody na to, że Moonshot uzyskał nieuprawniony dostęp do amerykańskich modeli AI w celu zbudowania swojego najnowszego modelu, znanego jako destylacja. Sekretarz Skarbu, Scott Bessent, zasugerował możliwość nałożenia sankcji na chińskie firmy zaangażowane w tę praktykę. Chiny odrzuciły oskarżenia o nieuczciwe wykorzystanie destylacji i ostrzegły, że odpowiedzą na wszelkie sankcje ze strony rządu USA.

Debata w Waszyngtonie toczy się w kontekście przygotowań administracji Trumpa do opublikowania propozycji ram regulacyjnych dla bezpieczeństwa systemów AI. Firmy z Doliny Krzemowej narzekały na chaotyczne działania amerykańskiego rządu w zakresie kontroli nowych modeli, w tym na krótkotrwałe wprowadzenie kontroli eksportowych wobec Anthropic, co doprowadziło do tymczasowego wyłączenia produktów Fable 5 i Mythos 5. Proponowane jest utworzenie niezależnego organu regulacyjnego, który oceniałby modele AI z udziałem branży, co przypomina propozycję przedstawioną przez Demisa Hassabisa, CEO Google DeepMind, który również planuje spotkania z legislatorami w Waszyngtonie.