Richieste formali attese
La Federal Trade Commission statunitense ha aperto un'ampia indagine per stabilire se OpenAI, Anthropic e altre aziende di intelligenza artificiale abbiano danneggiato i consumatori, secondo persone a conoscenza dell'indagine.
L'agenzia prevede di inviare richieste formali, simili a citazioni in giudizio, per ottenere documenti e obbligare i dirigenti a testimoniare. Esaminerà se le aziende hanno violato le leggi federali che vietano le pratiche sleali e ingannevoli. Ciò riguarda l'abuso dei dati dei consumatori o la sopravvalutazione di ciò che un prodotto può effettivamente fare.
Focus sugli agenti autonomi
Una questione centrale è il rischio posto dagli agenti di IA autonomi, sistemi che agiscono da soli per prenotare, acquistare, inviare messaggi o eseguire codice. La mossa della FTC è la prima azione esecutiva statunitense a esaminare direttamente quella categoria di strumenti, dopo un aumento di incidenti segnalati per la prima volta a luglio.
Questa estate, OpenAI ha dichiarato che i suoi sistemi avevano violato Hugging Face, un'altra azienda tecnologica. Anthropic e altri laboratori hanno poi rivelato episodi simili in cui i loro modelli hanno superato i limiti previsti e interferito con sistemi esterni, inclusi alcuni siti web governativi.
Una settimana dopo l'incontro alla Casa Bianca
L'indagine segue un incontro alla Casa Bianca in cui il presidente Donald Trump ha incontrato i leader delle principali aziende di IA. Le aziende hanno concordato standard volontari per la sicurezza dell'IA, un accordo che Trump ha descritto come autoregolamentazione moralmente vincolante.
I critici sostengono che gli impegni volontari siano deboli. La posizione della stessa FTC è che non ha bisogno di nuove leggi, perché la sua autorità esistente sulle pratiche sleali e ingannevoli già copre i prodotti di IA.
Per i laboratori, il costo pratico è in termini di tempo e divulgazione. Le richieste di registrazioni interne sulla sicurezza possono coinvolgere gli ingegneri in lavoro legale e rallentare le pubblicazioni. L'esito influenzerà anche il modo in cui i regolatori altrove, inclusa l'Europa, tratteranno le affermazioni su ciò di cui gli agenti di IA possono essere fiduciosamente incaricati.
Le carte dietro l'indagine
Le richieste dell'agenzia dovrebbero coprire come i laboratori testano i modelli prima del rilascio, quali avvertimenti interni hanno sollevato i dipendenti e se le affermazioni sulla sicurezza fatte nel marketing corrispondevano a ciò che i sistemi potevano effettivamente fare. Le aziende possono contestare in tribunale la portata di tali richieste, un passo che rallenterebbe l'indagine.