Bezprecedensowy incydent. Sztuczna inteligencja samodzielnie przeprowadziła „atak hakerski”

Firma OpenAI – twórca narzędzia ChatGPT poinformowała o bezprecedensowym incydencie, do którego doszło podczas wewnętrznych testów bezpieczeństwa najbardziej zaawansowanych modeli sztucznej inteligencji. Jeden z autonomicznych agentów AI zdołał przekroczyć ograniczenia i samodzielnie uzyskać dostęp do internetu. Następnie przeprowadził atak na infrastrukturę platformy Hugging Face.

Według OpenAI, model działał autonomicznie, realizując wyznaczony cel testowy. Incydent został określony jako wymagający wykorzystania zaawansowanych zdolności cybernetycznych, a firma zapowiedziała dalsze wzmocnienie swoich zabezpieczeń.

Hugging Face, jedna z największych platform służących do hostowania modeli językowych i zbiorów danych open source, poinformowała wcześniej o nietypowym naruszeniu bezpieczeństwa. Przedstawiciele firmy podkreślili, że atak różnił się od wszystkich wcześniejszych przypadków, ponieważ od początku do końca został przeprowadzony przez autonomiczny system agentów AI.

Współzałożyciel Hugging Face, Clement Delangue, przyznał, że skala zaawansowania ataku od początku wskazywała na możliwość wykorzystania technologii opracowanej w jednym z czołowych laboratoriów zajmujących się sztuczną inteligencją. Po ujawnieniu informacji przez OpenAI przypuszczenia te miały się potwierdzić.

Eksperci ds. cyberbezpieczeństwa oceniają, że wydarzenie może stać się ważnym punktem odniesienia w dyskusji o bezpieczeństwie najbardziej zaawansowanych systemów AI. Zwracają uwagę, że współczesne modele coraz częściej osiągają poziom umożliwiający prowadzenie skomplikowanych operacji w cyberprzestrzeni, co rodzi nowe wyzwania związane z ich testowaniem, kontrolą i odpowiedzialnym wdrażaniem.

Źródło: PAP

Oprac. WMa