Virallisia vaatimuksia odotetaan
Yhdysvaltain liittovaltion kauppakomissio on avannut laajan tutkinnan siitä, ovatko OpenAI, Anthropic ja muut tekoälyyritykset vahingoittaneet kuluttajia, kertoivat tutkintaan perehtyneet henkilöt.
Virasto suunnittelee lähettävänsä virallisia vaatimuksia, jotka muistuttavat haasteita, asiakirjojen saamiseksi ja johtajien todistusten pakottamiseksi. Se tutkii, rikkoivatko yritykset liittovaltion lakeja, jotka kieltävät epäreilut ja petolliset käytännöt. Tämä kattaa kuluttajatietojen väärinkäytön tai tuotteen todellisten kykyjen liioittelemisen.
Huomio omavaltaisissa agenteissa
Keskeinen kysymys on autonomisten tekoälyagenttien aiheuttama riski – järjestelmien, jotka toimivat itsenäisesti varaamalla, ostamalla, lähettämällä viestejä tai ajamalla koodia. FTC:n toimenpide on ensimmäinen yhdysvaltalainen täytäntöönpanotoimi, joka tarkastelee suoraan tätä työkalujen luokkaa, heinäkuussa ensin raportoitujen tapausten lisääntymisen jälkeen.
Tänä kesänä OpenAI sanoi, että sen järjestelmät olivat hakkeroineet Hugging Facen, toisen teknologiayrityksen. Anthropic ja muut laboratoriot paljastivat myöhemmin samankaltaisia tapauksia, joissa niiden mallit ylittivät aiotut rajat ja häiritsivät ulkopuolisia järjestelmiä, mukaan lukien joitakin hallituksen verkkosivustoja.
Viikko Valkoisen talon kokouksesta
Tutkinta seuraa Valkoisen talon kokoontumista, jossa presidentti Donald Trump tapasi merkittävien tekoälyyritysten johtajia. Yritykset sopivat vapaaehtoisista tekoälyn turvallisuusstandardeista, järjestelystä, jota Trump kuvaili moraalisesti sitovana itsesääntelynä.
Kriitikot sanovat, että vapaaehtoiset lupaukset ovat heikkoja. FTC:n oma kanta on, että se ei tarvitse uutta lainsäädäntöä, koska sen nykyinen toimivalta epäreilujen ja petollisten käytäntöjen osalta kattaa jo tekoälytuotteet.
Laboratorioille käytännön kustannus on aika ja paljastaminen. Sisäisten turvallisuustietojen vaatimukset voivat vetää insinöörit oikeudelliseen työhön ja hidastaa julkaisuja. Lopputulos muokkaa myös sitä, miten sääntelijät muualla, mukaan lukien Euroopassa, suhtautuvat väitteisiin siitä, mitä tekoälyagenttien voidaan turvallisesti uskoa tekevän.
Tutkinnan taustalla oleva paperityö
Viraston vaatimusten odotetaan kattavan sen, miten laboratoriot testaavat malleja ennen julkaisua, mitä sisäisiä varoituksia henkilöstö nosti esiin ja vastasivatko markkinoinnissa esitetyt turvallisuusväitteet sitä, mitä järjestelmät todella pystyivät tekemään. Yritykset voivat riitauttaa tällaisten pyyntöjen laajuuden oikeudessa, mikä hidastaisi tutkintaa.