DI kūrėja pati susilpnino naują modelį, kad jis būtų mažiau pavojingas kibernetinėms atakoms

Kinijos dirbtinio intelekto startuolis „Moonshot AI“ priėmė neįprastą sprendimą – sąmoningai sumažino savo naujojo modelio „Kimi K3.1 Pro“ gebėjimus vykdyti kibernetines atakas.

Reklama

Bendrovė tai padarė prieš planuojamą modelio svorių viešą paskelbimą, nes didėja susirūpinimas, kad galingi atviro kodo ar atvirų svorių DI modeliai gali būti panaudoti automatizuotam įsilaužimui.

Reuters skelbia, kad „Moonshot“ pašalino dalį su kibernetinėmis atakomis susijusių duomenų iš mokymo rinkinio ir stiprinamojo mokymo aplinkų, tačiau stengėsi išsaugoti bendruosius programavimo gebėjimus.

Kiek modelis buvo susilpnintas?

Bendrovės vidiniame teste riziką sumažinęs modelis surinko 81 proc. rezultatą pažeidžiamumų paieškos ir išnaudojimo užduotyse.

Panaši versija be saugumo apribojimų pasiekė 90,5 proc.

Šie rezultatai nėra nepriklausomai patvirtinti, tačiau skirtumas rodo, kad bendrovė sąmoningai paaukojo dalį modelio galimybių tam, kad sumažintų potencialią žalą.

Kodėl tai svarbu?

DI modeliai vis geriau rašo kodą, analizuoja programinę įrangą ir savarankiškai atlieka sudėtingas užduotis.

Tie patys gebėjimai gali būti naudojami dviem kryptimis.

Saugumo specialistai gali DI naudoti pažeidžiamumams aptikti ir sistemoms apsaugoti.

Tačiau nusikaltėliai gali tuos pačius modelius naudoti spragoms rasti, atakoms automatizuoti ar piktybiniam kodui kurti.

Kuo galingesnis modelis, tuo mažesnės techninės kompetencijos gali reikėti užpuolikui.

Atviri modeliai kelia papildomą problemą

Debesyje veikiantį DI modelį jo kūrėjas gali stebėti ir apriboti.

Tačiau kai modelio svoriai paskelbiami viešai, vartotojai gali jį paleisti savo infrastruktūroje ir pašalinti dalį apsaugos mechanizmų.

Todėl „Moonshot“ sprendimas svarbus visai DI industrijai.

Tai rodo, kad ateityje modelių kūrėjams gali tekti ne tik klausti, kiek jų modelis gali, bet ir sąmoningai nuspręsti, ko jis neturėtų gebėti.

Ką tai reiškia verslui?

Lietuvos ir Europos įmonėms ši tendencija reiškia dvi priešingas kryptis.

Pirma – DI gali tapti labai stipriu kibernetinio saugumo įrankiu.

Jis gali:

• analizuoti kodą;
• ieškoti spragų;
• tikrinti konfigūracijas;
• analizuoti incidentus;
• automatizuoti dalį saugumo testų.

Tačiau tuo pat metu DI mažina atakų kainą.

Todėl įmonės turės daugiau investuoti į sistemų atnaujinimą, prieigos kontrolę ir nuolatinį stebėjimą.

Nauja kibernetinio saugumo era

Iki šiol įmonės dažnai bijojo labai kvalifikuotų programišių grupių.

Ateityje dalį sudėtingų darbų gali atlikti DI agentai.

Tai reiškia, kad kibernetinio saugumo rinka greičiausiai tik augs.

„Moonshot AI“ sprendimas savanoriškai apriboti modelio gebėjimus yra vienas pirmųjų aiškių signalų, kad DI industrija jau susiduria su realia problema: inovacijų sparta pradeda lenkti saugumo mechanizmus.

Šaltiniai: Reuters.