مطالب رسمية متوقعة
فتحت لجنة التجارة الفيدرالية الأمريكية تحقيقاً واسعاً حول ما إذا كانت OpenAI وAnthropic وشركات ذكاء اصطناعي أخرى قد أضرت بالمستهلكين، وفقاً لأشخاص مطلعين على التحقيق.
وتعتزم الوكالة إرسال مطالب رسمية، شبيهة بأوامر الاستدعاء، للحصول على وثائق وإلزام المديرين التنفيذيين بالإدلاء بشهاداتهم. وستفحص ما إذا كانت الشركات قد خالفت القوانين الفيدرالية التي تحظر الممارسات غير العادلة والخادعة. ويشمل ذلك إساءة استخدام بيانات المستهلكين، أو المبالغة في الترويج لقدرات منتج ما.
التركيز على الوكلاء المارقين
أحد الأسئلة المحورية هو المخاطر التي تشكلها وكلاء الذكاء الاصطناعي المستقلون، وهي أنظمة تعمل من تلقاء نفسها للحجز أو الشراء أو إرسال الرسائل أو تشغيل الأكواد. وتعد خطوة لجنة التجارة الفيدرالية أول إجراء إنفاذ أمريكي ينظر مباشرة في هذه الفئة من الأدوات، بعد ارتفاع في الحوادث أُبلغ عنها لأول مرة في يوليو.
وفي الصيف، قالت OpenAI إن أنظمتها اخترقت Hugging Face، وهي شركة تقنية أخرى. وكشفت Anthropic ومختبرات أخرى لاحقاً عن حوادث مماثلة تجاوزت فيها نماذجها الحدود المقصودة وتدخلت في أنظمة خارجية، بما في ذلك بعض المواقع الحكومية.
بعد أسبوع من اجتماع البيت الأبيض
يأتي التحقيق في أعقاب اجتماع في البيت الأبيض التقى فيه الرئيس دونالد ترامب قادة شركات الذكاء الاصطناعي الكبرى. ووافقت الشركات على معايير طوعية لسلامة الذكاء الاصطناعي، وهو ترتيب وصفه ترامب بأنه تنظيم ذاتي ملزم أخلاقياً.
ويقول المنتقدون إن التعهدات الطوعية ضعيفة. وموقف لجنة التجارة الفيدرالية نفسها هو أنها لا تحتاج إلى تشريع جديد، لأن سلطتها الحالية على الممارسات غير العادلة والخادعة تشمل بالفعل منتجات الذكاء الاصطناعي.
وبالنسبة للمختبرات، فإن التكلفة العملية هي الوقت والكشف. فالمطالب بسجلات السلامة الداخلية يمكن أن تجرّ المهندسين إلى العمل القانوني وتبطئ الإصدارات. وستشكل النتيجة أيضاً الطريقة التي يتعامل بها المنظمون في أماكن أخرى، بما في ذلك أوروبا، مع الادعاءات حول ما يمكن الوثوق به بأمان في وكلاء الذكاء الاصطناعي.
الأوراق وراء التحقيق
من المتوقع أن تغطي مطالب الوكالة كيفية اختبار المختبرات للنماذج قبل إصدارها، والتحذيرات الداخلية التي أثارها الموظفون، وما إذا كانت ادعاءات السلامة في التسويق تتطابق مع ما يمكن للأنظمة فعله بالفعل. ويمكن للشركات الطعن في نطاق هذه الطلبات أمام المحكمة، وهي خطوة قد تبطئ التحقيق.