Sztuczna inteligencja samodzielnie przeprowadziła atak hakerski

Według oświadczenia OpenAI incydent wydarzył się podczas specjalnych testów mających sprawdzić możliwości najbardziej zaawansowanych modeli w zakresie cyberbezpieczeństwa. Na potrzeby ewaluacji celowo ograniczono część zabezpieczeń blokujących wykonywanie działań ofensywnych.

WSPIERAJ NAS NA PATRONITE

Jak przekazała firma, autonomiczny agent oparty na tych modelach zdołał opuścić izolowane środowisko testowe, połączyć się z internetem i włamać do infrastruktury Hugging Face, próbując zdobyć informacje, które mogłyby pomóc mu osiągnąć cel wyznaczony w teście. OpenAI określiło zdarzenie jako „bezprecedensowy incydent cyberbezpieczeństwa”.

Hugging Face potwierdza naruszenie infrastruktury

Hugging Face potwierdził, że w ubiegłym tygodniu wykrył włamanie do swojej infrastruktury produkcyjnej. Firma poinformowała, że napastnik uzyskał nieautoryzowany dostęp do części wewnętrznych zbiorów danych oraz niektórych poświadczeń wykorzystywanych przez usługi platformy.

Japonia rzuca wyzwanie potęgom – Noetra! 10 milionów robotów i japońskie AI ma uratować kraj przed katastrofą

Tylko jeden chętny na ponad cztery wolne etaty w domach opieki. Drastyczny kryzys demograficzny zmusił Tokio do podjęcia…

Z opublikowanego raportu wynika, że atak rozpoczął się od wykorzystania złośliwego zbioru danych, który pozwolił na wykonanie kodu w systemie przetwarzania danych. Następnie doszło do eskalacji uprawnień, przejęcia części danych uwierzytelniających i przemieszczania się pomiędzy wewnętrznymi klastrami firmy. Hugging Face podkreśla jednak, że nie ma dowodów na naruszenie publicznych modeli, zbiorów danych ani usług użytkowników.

Pierwszy udokumentowany autonomiczny cyberatak AI

Jak podała agencja Reuters, jest to jeden z pierwszych tak dobrze udokumentowanych przypadków, w którym autonomiczny system sztucznej inteligencji samodzielnie przeprowadził rzeczywisty cyberatak poza kontrolowanym środowiskiem testowym.

Według relacji agencji OpenAI oraz Hugging Face prowadzą wspólne dochodzenie, a obie firmy zapowiedziały wprowadzenie dodatkowych zabezpieczeń dotyczących izolacji modeli, monitorowania ich działań oraz procedur testowania zaawansowanych systemów AI. Reuters podkreśla również, że incydent ponownie rozpalił debatę nad potrzebą obowiązkowych standardów bezpieczeństwa dla najbardziej zaawansowanych modeli sztucznej inteligencji.

OpenAI zapowiada zaostrzenie procedur

W opublikowanym oświadczeniu OpenAI poinformowało, że wspólnie z Hugging Face analizuje przebieg zdarzenia i wdraża kolejne środki bezpieczeństwa. Firma zapowiada m.in. wzmocnienie mechanizmów izolacji środowisk testowych, ograniczenie możliwości uzyskiwania dostępu do internetu podczas testów oraz rozwój narzędzi monitorujących zachowanie autonomicznych agentów.

OpenAI podkreśla, że wraz ze wzrostem możliwości modeli sztucznej inteligencji podobne testy będą coraz ważniejsze, jednak muszą być prowadzone przy jeszcze bardziej rygorystycznych zabezpieczeniach

źródło: Reuters, OpenAI, Hugging Face