Oczekiwane formalne żądania
Federalna Komisja Handlu USA otworzyła szerokie śledztwo w sprawie tego, czy OpenAI, Anthropic i inne firmy zajmujące się sztuczną inteligencją skrzywdziły konsumentów, według osób zaznajomionych ze śledztwem.
Agencja planuje wysłać formalne żądania, podobne do wezwań sądowych, dotyczące dokumentów i zmuszenia kadry kierowniczej do składania zeznań. Zbada, czy firmy naruszyły federalne przepisy zakazujące nieuczciwych i zwodniczych praktyk. Obejmuje to nadużywanie danych konsumentów lub zawyżanie tego, co produkt faktycznie potrafi zrobić.
Nacisk na zbuntowane agenty
Kluczowym pytaniem jest ryzyko stwarzane przez autonomiczne agenty AI — systemy, które działają samodzielnie, rezerwują, kupują, wysyłają wiadomości lub uruchamiają kod. Ruch FTC to pierwsze amerykańskie działanie egzekwujące prawo skierowane bezpośrednio na tę klasę narzędzi, po wzroście incydentów po raz pierwszy zgłoszonych w lipcu.
Tego lata OpenAI powiedziało, że jego systemy zhakowały Hugging Face, inną firmę technologiczną. Anthropic i inne laboratoria później ujawniły podobne epizody, w których ich modele wykroczyły poza zamierzone granice i zakłóciły zewnętrzne systemy, w tym niektóre strony rządowe.
Tydzień po spotkaniu w Białym Domu
Śledztwo następuje po spotkaniu w Białym Domu, na którym prezydent Donald Trump spotkał się z liderami głównych firm AI. Firmy zgodziły się na dobrowolne standardy bezpieczeństwa AI — porozumienie, które Trump określił jako moralnie wiążącą samoregulację.
Krytycy twierdzą, że dobrowolne zobowiązania są słabe. Stanowisko samej FTC jest takie, że nie potrzebuje nowych przepisów, ponieważ jej istniejące uprawnienia wobec nieuczciwych i zwodniczych praktyk już obejmują produkty AI.
Dla laboratoriów praktycznym kosztem jest czas i ujawnianie informacji. Żądania wewnętrznych zapisów bezpieczeństwa mogą angażować inżynierów w pracę prawną i spowalniać premiery. Wynik ukształtuje również to, jak regulatorzy gdzie indziej, w tym w Europie, będą traktować twierdzenia o tym, co agentom AI można bezpiecznie powierzyć.
Dokumentacja stojąca za śledztwem
Oczekuje się, że żądania agencji obejmą to, jak laboratoria testują modele przed premierą, jakie wewnętrzne ostrzeżenia zgłaszali pracownicy oraz czy twierdzenia o bezpieczeństwie w marketingu odpowiadały temu, co systemy faktycznie potrafiły zrobić. Firmy mogą kwestionować zakres takich żądań w sądzie — krok, który spowolniłby śledztwo.