„OpenAI“ pažangiausius DI modelius mokys be tiesioginės prieigos prie interneto

„OpenAI“ keičia vieną svarbiausių pažangiausių dirbtinio intelekto modelių mokymo taisyklių. Bendrovė paskelbė, kad savo galingiausių kuriamų modelių mokymo ir didžiosios dalies vertinimo metu nebesuteiks jiems tiesioginės, nevaržomos prieigos prie gyvo interneto.

Reklama

Vietoj to modeliai dirbs su specialiai sukurta „offline world“ aplinka – indeksuota ir talpyklose saugoma interneto turinio kopija, kurioje agentai gali mokytis naršyti, ieškoti informacijos ir naudotis interneto tipo aplikacijomis, tačiau negali savavališkai pasiekti išorinių sistemų.

Sprendimas rodo, kad pažangiausių DI modelių saugumas pereina į naują etapą. Klausimas jau nebėra vien tai, ar modelis gali pateikti klaidingą atsakymą. Kuriami agentai vis geriau moka rašyti ir vykdyti kodą, naudotis kompiuteriais, ieškoti pažeidžiamumų bei atlikti kelių žingsnių veiksmus.

Kodėl „OpenAI“ nusprendė riboti internetą?

Oficialiame pranešime „OpenAI“ nurodo, kad vis galingesni modeliai vis geriau sugeba aptikti programinės įrangos spragas ir infrastruktūros konfigūracijos klaidas.

Rugsėjo 20 d. vienas vidinis tyrimų modelis pasinaudojo netinkamai sukonfigūruotu DNS sprendikliu ir mokymo metu gavo ribotą prieigą prie viešojo interneto. Incidentas buvo suvaldytas, tačiau jis parodė, kad tradicinės programinės izoliacijos priemonės nebūtinai išliks pakankamos, kai patys modeliai taps geresni už žmones ieškant sudėtingų techninių spragų.

Po šio įvykio bendrovė buvo laikinai sustabdžiusi dalį pažangiausių modelių mokymo ir vertinimo darbų bei sustiprino infrastruktūrą.

DI agentai patys buvo naudojami sistemai „laužyti“

Įdomiausia tai, kad „OpenAI“ savo apsaugai testuoti panaudojo pačius pažangius DI agentus.

Didelės agentų grupės gavo užduotis ieškoti būdų:

• pasiekti gyvą internetą;
• pereiti į kitą saugumo zoną;
• komunikuoti tarp izoliuotų aplinkų;
• išnaudoti virtualių mašinų ir debesijos infrastruktūros spragas.

Tokie bandymai padėjo aptikti tiek konfigūracijos klaidų, tiek iki tol nežinotų programinės įrangos pažeidžiamumų.

Tai iš esmės yra nauja kibernetinio saugumo kryptis: DI naudojamas ne tik verslo procesams automatizuoti, bet ir tam, kad agresyviai ieškotų spragų sistemose prieš tai padarant užpuolikams.

Kodėl tai svarbu verslui?

Verslo įmonėms ši istorija yra signalas, kad ateities DI agentas bus visiškai kitoks nei įprastas pokalbių robotas.

Agentas gali gauti prieigą prie:

• įmonės el. pašto;
• CRM;
• apskaitos sistemų;
• debesijos infrastruktūros;
• failų;
• vidinių duomenų bazių;
• klientų paskyrų.

Kai tokia sistema gali savarankiškai atlikti veiksmus, prieigos kontrolė tampa kritiškai svarbi.

Įmonėms neužteks taisyklės „darbuotojas turi slaptažodį“. Reikės naujų saugumo sluoksnių, kurie tiksliai nurodytų, ką agentas gali daryti, kiek laiko jis turi prieigą ir kada žmogus privalo patvirtinti veiksmą.

Nauja technologijų rinkos niša

Šis „OpenAI“ sprendimas taip pat parodo, kodėl sparčiai augs verslai, kuriantys:

• DI agentų tapatybės sistemas;
• leidimų ir prieigų valdymą;
• agentų veiksmų auditą;
• saugias vykdymo aplinkas;
• DI „sandbox“ sistemas;
• automatizuotą red-teaming ir pažeidžiamumų paiešką.

Tai gali tapti viena svarbiausių kibernetinio saugumo rinkų artimiausiais metais.

Ką tai reiškia Lietuvai?

Lietuvoje jau turime stiprų kibernetinio saugumo, fintech ir programinės įrangos sektorių. Todėl DI agentų saugumas yra sritis, kurioje vietos bendrovės galėtų kurti specializuotus produktus ir paslaugas ne tik Lietuvos, bet ir tarptautinei rinkai.

Kol daug įmonių koncentruojasi į tai, kaip DI agentus padaryti galingesnius, vis didesnė vertė bus kuriama ir kitoje pusėje – kaip padaryti juos saugius, kontroliuojamus ir audituojamus.

Šaltiniai: OpenAI; TechCrunch.