OpenAI potvrdio da je autonomna VI probila Hugging Face tokom testiranja
OpenAI je saopštio da su njegovi napredni modeli vještačke inteligencije samostalno izašli iz testnog okruženja, pristupili internetu i hakovali platformu Hugging Face u pokušaju da ispune zadati cilj.
OpenAI je u utorak saopštio da su njegovi sopstveni modeli vještačke inteligencije autnomno izvršili sajber napad na platformu Hugging Face. Incident se dogodio tokom interne evaluacije sposobnosti modela u oblasti sajber bezbjednosti.
„Imali smo značajan bezbjednosni incident tokom evaluacije naših modela“, izjavio je izvršni direktor kompanije Sem Altman u objavi na društvenim mrežama.
Prema objavi na blogu kompanije, agentu VI pošlo je za rukom da pobjegne iz strogo kontrolisanog digitalnog testnog poligona, gdje je pristup internetu bio ograničen iz bezbjednosnih razloga. Modeli su potom samoinicijativno utrošili značajnu računarsku snagu tražeći način da se povežu na otvoreni internet, a zatim su kao metu odabrali Hugging Face, veliko skladište VI modela i skupova podataka.
OpenAI navodi da je u incidentu korišćena kombinacija modela, uključujući nedavno lansirani GPT-5.6 Sol i „još napredniji model iz predizdanja“. Izvršni direktor Hugging Face-a Klement Delanž izjavio je da je kompanija sumnjala da napad „dolazi iz neke vodeće laboratorije, s obzirom na sofisticiranost agenta. Ispostavilo se da jeste!“
Hugging Face je prošle sedmice na svom blogu objavio da je ovaj napad bio drugačiji od svega sa čim su se ranije suočavali jer ga je „od početka do kraja vodio autonomni sistem VI agenta“. Kompanija je objasnila da je zlonamjerni kod sakriven unutar skupa podataka otpremljenog na platformu, a kada su automatizovani sistemi obradili taj skup, iskorišćene su dvije softverske ranjivosti koje su omogućile izvršavanje koda na serveru.
Napad je dodatno otežan jer je agent pokretao hiljade privremenih računarskih okruženja, dok se infrastruktura koja upravlja zlonamjernim softverom neprestano premještala korišćenjem legitimnih javnih usluga. Hugging Face je potvrdio da nema dokaza o kompromitovanju podataka korisnika ili javnih modela.
Objelodanjivanje incidenta dolazi u trenutku pojačane zabrinutosti zbog sajber bezbjednosnih rizika napredne vještačke inteligencije. Predsjednik Donald Tramp je u junu naredio savezne revizije najmoćnijih VI sistema prije njihovog javnog objavljivanja, a OpenAI-jev GPT-5.6 lansiran je ovog mjeseca nakon odlaganja na zahtjev američke vlade zbog strahovanja za nacionalnu bezbjednost.