DI agentai: kas tai ir ką privalote žinoti prieš pradedant juos naudoti?

Generatyvinis dirbtinis intelektas (angl. generative AI) dominavo dirbtinio intelekto industrijoje 2024-aisiais. Vienas po kito pasirodė vis pajėgesni kalbos robotai (angl. chatbots), tokie kaip OpenAI „ChatGPT o1“, kiti dirbtinio intelekto įrankiai, galintys generuoti paveikslėlius, garso ir vaizdo įrašus, tokie kaip „AI AI studios“ iš Deepbrain AI, „Dream Machine“ iš Luma Labs ir kt.

Reklama

Kol generatyvinio dirbtinio intelekto įrankiai vis dar ieško masinio pritaikomumo įvairiose verslo srityse, dirbtinio intelekto industrija pamažu žengia kitą žingsnį ir ima kalbėti apie dirbtinio intelekto agentus (angl. AI agents) arba „agentinį DI“ (angl. agentic AI). DI agentai – tai pažangesnės dirbtinio intelekto sistemos, galinčios savarankiškai inicijuoti ir užbaigti užduotis, priimti sprendimus bei atlikti reikiamus veiksmus su minimalia žmogaus priežiūra ar apskritai be jokio žmogaus įsikišimo. Kitais žodžiais tariant, generatyvinio dirbtinio intelekto modeliai yra skirti kam nors kurti, o DI agentai yra skirti veikti.

DI agentai gali būti naudojami įvairiuose sektoriuose. Jie gali padėti įvertinti asmenų kreditingumą, išnagrinėti prašymus dėl draudimo išmokų bei priimti sprendimus jas išmokėti, įvertinti prašymus dėl socialinių išmokų ir jas paskirstyti ar, atsižvelgdami į realiuoju laiku gaunamus sveikatos duomenis, pasiūlyti individualius gydymo planus. Tai tik keletas sričių, kuriose gali būti naudojami DI agentai.

OpenAI, dažnai diktuojanti tendencijas dirbtinio intelekto industrijoje, praeitą savaitę pristatė savo DI agentą Operatorių (angl. Operator). Šis DI agentas, OpenAI atstovų teigimu, naudotojų vardu internete galės užpildyti įvairias formas ar užsakyti maisto produktus. Tiesa, ši sistema tebėra bandymų stadijoje ir jos kūrėjai iš pirmųjų vartotojų sieks gauti atgalinį ryšį, kad galėtų ją patobulinti.

Plačiai žinoma, kad generatyvinis dirbtinis intelektas yra susijęs su daugeliu ne tik techninių (pvz., vadinamosios haliucinacijos), bet ir teisinių problemų, tokių kaip ant teisėtumo ribos kartais balansuojantis internete esančių autorių kūrinių naudojimas dirbtinio intelekto modeliams apmokyti.

Ką reikėtų žinoti prieš pradedant naudoti DI agentus?

Tam, kad DI agentai galėtų atlikti jiems priskirtas funkcijas, jiems būtinas nemažas savarankiškumas priimti sprendimus bei atlikti atitinkamus veiksmus šiems sprendimams įgyvendinti.

Ši esminė DI agentų savybė bei kitos bendros dirbtinio intelekto sistemų charakteristikos, būdingos ir DI agentams, iškelia bent keletą teisinių aspektų, į kuriuos privalu atkreipti dėmesį, prieš DI agentams „atrišant rankas“.

Duomenų ir privatumo apsauga. Didžioji dalis šiuo metu kuriamų DI agentų yra pagrįsti didžiųjų kalbos modelių (angl. large language models) technologija. Todėl tam, kad tinkamai veiktų, kaip ir didieji kalbos modeliai, DI agentai turės būti apmokomi atitinkamais duomenimis. Šiuo atveju šie duomenys turės būti paimti iš konkrečios naudotojo aplinkos, kad DI agentas, susipažinęs su šia aplinka, galėtų joje savarankiškai veikti ir pasiekti naudotojo tikslus. Renkant šiuos duomenis bei juos perkeliant į DI agento sistemą, turės būti užtikrinti visi duomenų apsaugos principai (duomenų minimizavimas ir pan.). Žinoma, šie principai turės būti užtikrinami ir DI agentui jau pradėjus veikti, pavyzdžiui, sąveikaujant su jį pasitelkusios kompanijos klientais ir renkant jų duomenis.

Kibernetinis saugumas. DI agentai, kaip ir bet kuri kita programinė įranga, gali tapti įsilaužėlių taikiniu. Tam tikri jautrūs duomenys taip pat gali nutekėti tretiesiems asmenims dėl programinės įrangos, kurios pagrindu DI agentai veikia, klaidų.

Atsakomybė dėl sukeltos žalos. DI agentas, savarankiškai įgyvendindamas jam priskirtus tikslus, gali padaryti žalos. Tokiu atveju kiltų klausimas, kas šią žalą turėtų atlyginti. Kadangi pats DI agentas tėra programinė įranga, kiltų jo naudotojo ar kūrėjo teisinės atsakomybės klausimas.

Atsakomybė dėl programinės įrangos defektų. Tuo atveju, jei DI agentą sudaranti programinė įranga turėtų kokybės defektų, t. y. netinkamai funkcionuotų dėl klaidų, paliktų jos kūrimo procese ar atsiradusių programinę įrangą atnaujinant, kiltų klausimas dėl jos kūrėjų teisinės atsakomybės.

Atitiktis teisės aktų reikalavimams. DI agentai gali būti skirti veikti pačiose įvairiausiose srityse. Kai kurios iš šių sričių, tokios kaip finansų sektorius, yra griežtai reguliuojamos specialiai joms taikytinais teisės aktais. Todėl būtina užtikrinti, kad tokioje srityje naudojamas DI agentas, savarankiškai atlikdamas tam tikrus veiksmus, nepažeistų taikytinų teisės aktų reikalavimų.

Sutarčių sudarymas. Techninis įgalinimas DI agentą atlikti tokius veiksmus kaip prekių įsigijimas iš esmės reikštų tai, jog DI agentas sudaro sandorius, jo naudotojui turinčius sukurti atitinkamas teises bei pareigas. Tam tikrais atvejais galėtų iškilti klausimas, ar tam tikras DI agentą naudojantis asmuo ar įmonė tinkamai išreiškė savo valią sudaryti atitinkamą sandorį, pasitelkdama DI agentą. Kita medalio pusė galėtų būti ta, kad DI agentas naudotojo vardu prisiimtų nepageidaujamus teisinius įsipareigojimus. Pavyzdžiui, logistinei prekių tiekimo grandinei optimizuoti skirtas agentas galėtų nupirkti daugiau prekių, nei įmonei tuo metu reikėjo. Tokiu atveju gali būti sunku pasiteisinti, jog tam tikras sandoris buvo sudarytas be reikiamų įgaliojimų.

Šis sąrašas įvardija tik keletą esminių su DI agentų naudojimu susijusių teisinių rizikų. Turint galvoje, kaip plačiai potencialiai gali būti taikomi DI agentai, aktualių teisinių rizikų gali būti ir daugiau. Todėl jas reikėtų atskirai įvertinti kiekvieno individualaus DI agento atveju.

Kaip užtikrinti, kad būtų išnaudotas visas DI agentų potencialas?

DI agentai priartina dirbtinio intelekto technologiją prie pagrindinės su ja siejamos vizijos – savarankiškai veikiančios dirbtinio intelekto sistemos, atliekančios sudėtingiausius bei nemaloniausius darbus ir taip išlaisvinančios žmonių kūrybinį potencialą. Tačiau tam, kad šie naujausi dirbtinio intelekto įrankiai iš tiesų galėtų pasiekti jiems keliamus tikslus, juos kuriant bei naudojant būtina tinkamai atsižvelgti į keletą veiksnių. Privalu tinkamai įvertinti, kokiame kontekste bus naudojamas atitinkamas DI agentas, kokie jam keliami tikslai ir kas konkrečiai jais naudosis, kokio kompleksiškumo yra ar turi būti technologija, kuria grindžiamas DI agentas, ir kokie šios technologijos ribotumai, kaip užtikrinti tinkamą DI agento naudojimą ir sklandų tolesnį jo veikimą. Šiuos aspektus reikėtų įvertinti ne tik įmonėms, kuriančioms DI agentus, bet ir jų naudotojams, kad jie galėtų suprasti, ar DI agentai iš tiesų gali tinkamai atlikti užduotis, kurioms jie yra skirti.

Parengė advokatų kontoros „Glimstedt“ teisininkas, advokatas Ovidijus Speičys