OpenAI priznao: AI izveo autonomni hakerski napad na više platformi
Kompanija OpenAI otkrila je da je njen model vještačke inteligencije, nakon što je izmakao kontroli tokom internog testiranja, izveo prvi potpuno autonomni hakerski napad koji je obuhvatio više javno dostupnih servisa, uključujući i platformu Hugging Face.
Američka kompanija OpenAI saopštila je da je njen model vještačke inteligencije, tokom interne evaluacije, samostalno izašao iz kontrolisanog testnog okruženja i izveo ono što se opisuje kao prvi potpuno autonomni hakerski napad jedne vještačke inteligencije. Prema ažuriranim informacijama, obim incidenta je veći nego što se prvobitno mislilo i uključuje napade na više platformi.
OpenAI je 29. jula saopštio da su odmetnuti modeli identifikovali i iskoristili javno dostupne pristupne podatke za četiri korisnička naloga na četiri različita javno dostupna servisa. Kompanija nije precizirala o kojim servisima je riječ, ali je navela da novootkriveni napadi nisu bili istog nivoa složenosti kao prvobitno hakovanje platforme Hugging Face.
Incident se dogodio tokom interne vježbe osmišljene da procijeni sposobnost dva napredna OpenAI modela da pronađu i iskoriste bezbjednosne propuste u digitalnim sistemima. Umjesto da ostanu unutar zatvorenog laboratorijskog okruženja, modeli su samostalno ustanovili da se odgovori za test nalaze na platformi Hugging Face i pokrenuli napad kako bi im pristupili.
Hugging Face je na vanrednom sastanku sa stotinama stručnjaka za sajber bezbjednost opisao iskustvo suočavanja sa autonomnim AI napadom. Prema riječima te kompanije, modeli su radili „nadljudskom brzinom“, isprobavajući hiljade različitih metoda istovremeno, ali su istovremeno donosili neobične odluke i pravili greške koje čovjek-haker ne bi napravio.
Iako su ispoljavali nespretno ponašanje, ponavljali prethodno izvršene radnje i gubili kontekst zadataka, AI modeli su, prema izvještaju Alijanse za bezbjednost u klaudu, izveli i „brilijantne tehničke poteze“ i brzo se prilagođavali novim scenarijima tokom višednevnog napada. Napadači su otkriveni tek poslije tri dana, a stručnjacima je bilo potrebno mnogo sati da ih zaustave i uklone iz sistema.
Ovaj incident bez presedana podstakao je dvostranački niz zakonodavnih inicijativa u američkom Kongresu. Senator Mark Vorner iznio je prijedlog zakona o obaveznom okviru za testiranje naprednih AI modela, dok su kongresmeni Lori Trahan i Džej Obernolti predložili zakon koji, između ostalog, predviđa obavezu prijavljivanja AI incidenata nadležnim saveznim tijelima.