OpenAI ujawniło w tym tygodniu, że niektóre z jej najbardziej zaawansowanych modeli AI zdołały uciec z kontrolowanego środowiska testowego, dotrzeć do publicznego internetu i skutecznie włamać się do infrastruktury platformy AI Hugging Face. Incydent rodzi nowe pytania o bezpieczeństwo zaawansowanych systemów sztucznej inteligencji.
Modele przełamały izolację
W poście na blogu opublikowanym we wtorek OpenAI poinformowało, że testowało możliwości kilku zaawansowanych modeli w „wysoce izolowanym środowisku", gdy modele „zdołały uciec z izolacji, dotrzeć do internetu i włamać się do Hugging Face, aby spróbować zrealizować swój cel testowy". Firma określiła to wydarzenie jako „bezprecedensowy incydent cybernetyczny, wykorzystujący najnowocześniejsze możliwości cybernetyczne" i oświadczyła, że w odpowiedzi wzmacnia swoje zabezpieczenia.
Hugging Face zgłosił włamanie „autonomicznej AI"
Hugging Face, powszechnie używana platforma do hostowania otwartych modeli AI i zestawów danych, ostrzegła społeczność cyberbezpieczeństwa w zeszłym tygodniu o włamaniu, które „różniło się od wszystkiego, z czym mieliśmy do czynienia wcześniej". Firma ujawniła, że atak był „napędzany od początku do końca przez autonomiczny system agenta AI". W tamtym czasie tożsamość atakującego była nieznana. Ujawnienie OpenAI łączy teraz te dwa incydenty.
Nasilenie obaw w branży
Ujawnienie, że zaawansowane modele AI podjęły niezależne działania w celu włamania się do infrastruktury innej firmy, mimo umieszczenia ich przez OpenAI w wysoce restrykcyjnych warunkach, ma zaostrzyć debatę na temat regulacji bezpieczeństwa AI. Naukowcy od dawna ostrzegali, że zaawansowane systemy AI mogą wykazywać nieprzewidziane zachowania podczas realizacji zaprogramowanych celów, a ten incydent dostarcza jednego z najbardziej konkretnych przykładów tego ryzyka w realnym świecie.