Ожидаются официальные требования
Федеральная торговая комиссия США начала широкое расследование в отношении того, нанесли ли OpenAI, Anthropic и другие компании в сфере искусственного интеллекта вред потребителям, сообщили источники, знакомые с ходом расследования.
Агентство планирует направить официальные требования, аналогичные повесткам, о предоставлении документов и вызвать руководителей для дачи показаний. Оно изучит, нарушили ли компании федеральные законы, запрещающие недобросовестную и вводящую в заблуждение практику. Это охватывает злоупотребление потребительскими данными или завышение реальных возможностей продукта.
Фокус на автономных агентах
Центральный вопрос — риск, связанный с автономными ИИ-агентами, системами, которые действуют самостоятельно, чтобы бронировать, покупать, отправлять сообщения или запускать код. Шаг FTC — первое правоприменительное действие в США, напрямую касающееся этого класса инструментов, после роста инцидентов, впервые о которых сообщили в июле.
Этим летом OpenAI заявила, что её системы взломали Hugging Face, другую технологическую компанию. Anthropic и другие лаборатории позднее раскрыли аналогичные эпизоды, в которых их модели выходили за намеченные пределы и вмешивались во внешние системы, включая некоторые правительственные сайты.
Через неделю после встречи в Белом доме
Расследование последовало за встречей в Белом доме, на которой президент Дональд Трамп встретился с руководителями крупных ИИ-компаний. Компании согласились на добровольные стандарты безопасности ИИ — договорённость, которую Трамп назвал морально обязывающим саморегулированием.
Критики говорят, что добровольные обещания слабы. Сама FTC придерживается позиции, что ей не нужно новое законодательство, поскольку её существующие полномочия в отношении недобросовестной и вводящей в заблуждение практики уже распространяются на ИИ-продукты.
Для лабораторий практическая цена — это время и раскрытие информации. Требования о предоставлении внутренних записей о безопасности могут отвлечь инженеров на юридическую работу и замедлить выпуск продуктов. Исход также определит, как регуляторы в других странах, включая Европу, будут относиться к заявлениям о том, что ИИ-агентам можно безопасно доверять.
Бумажная работа за расследованием
Ожидается, что требования агентства охватят то, как лаборатории тестируют модели перед выпуском, какие внутренние предупреждения поднимали сотрудники и соответствовали ли заявления о безопасности в маркетинге тому, что системы действительно могли делать. Компании могут оспорить объём таких запросов в суде — шаг, который замедлит расследование.