Dirbtinis intelektas suklydo? Pasiteisinimas „čia ne mes“ gali nesuveikti

Dirbtinis intelektas (DI) jau ne tik rašo tekstus ar generuoja paveikslėlius. Jis analizuoja duomenis, atsako klientams, vertina kandidatus, rengia dokumentus, padeda priimti sprendimus ir vis dažniau gali savarankiškai atlikti tam tikrus veiksmus. Bet kartu atsiranda klausimas, apie kurį verslas kalba gerokai rečiau: kas atsakys, jei dirbtinis intelektas suklys ir dėl tos klaidos bus padaryta reali žala? Ar atsakomybė teks DI kūrėjui, ar įmonei, kuri pasirinko konkretų įrankį? O gal darbuotojui, kuris pasitikėjo jo atsakymu? Įžvalgomis dalijasi SEO specialistė Sandra Dzetaveckienė, atkreipianti dėmesį į tai, kokią atsakomybę įmonėms sukuria vis platesnis dirbtinio intelekto naudojimas.

Reklama

Kai dirbtinis intelektas ne tik pataria, bet ir veikia

Naudojant įprastą generatyvinį DI situacija gana aiški. Pavyzdžiui, darbuotojas paprašo „Chat GPT“ parengti sutarties ar laiško juodraštį, tačiau prieš dokumentą siunčiant klientui jį peržiūri žmogus. Jeigu tekste yra klaida, aišku kas suklydo – žmogus. Tačiau DI agentai keičia šią situaciją.

„DI agentų atveju situacija sudėtingesnė. Tokia sistema gali gauti tikslą ir pati atlikti kelis veiksmus: ieškoti informacijos, jungtis prie kitų sistemų, analizuoti duomenis, siųsti užklausas ar priimti tarpinius sprendimus. Problema nebėra vien neteisingas atsakymas ekrane. DI gali imtis veiksmo. Įsivaizduokite paprastą situaciją – įmonė naudoja DI agentą IT sistemų saugumui tikrinti. Agentui nurodoma: „Surask mūsų sistemos saugumo spragas.“ Vykdydamas užduotį agentas savarankiškai pasirenka metodus ir netyčia prisijungia prie sistemos, kuri priklauso kitai įmonei. Padaroma žala. Kas atsakingas? DI kūrėjas, sukūręs agentą? Įmonė, kuri jį paleido? Darbuotojas, davęs užduotį? O gal nukentėjusi įmonė, kuri nepakankamai apsaugojo savo sistemą? Teisininkų vertinimu, tokiose situacijose gali būti nagrinėjama kelių šalių atsakomybė, o vienas svarbiausių klausimų būtų, ar riziką buvo galima pagrįstai numatyti ir ar buvo imtasi tinkamų saugumo priemonių“, – sako S. Dzetaveckienė.

„Bet juk taip padarė DI“ – silpnas argumentas

Verslui svarbu suprasti, kad DI nėra tarpininkas, kuriam kartu su užduotimi galima perduoti ir atsakomybę.

„Jeigu įmonė pasirenka naudoti DI savo veikloje, svarbu ne tik tai, kodėl sistema suklydo, bet ir tai, kaip įmonė ją pasirinko, kontroliavo ir prižiūrėjo. Tai ypač aktualu, kai DI naudojamas srityse, kuriose klaida gali turėti rimtų pasekmių: finansiniuose sprendimuose, darbuotojų ar kandidatų vertinime, klientų aptarnavime, teisinėje veikloje, medicinoje, kibernetiniame saugume, asmens duomenų tvarkyme ar automatizuojant veiksmus kitose įmonės sistemose“, – vardija specialistė.

Todėl po incidento vienas svarbiausių klausimų gali būti ne „kodėl DI suklydo?“, o „ką įmonė padarė, kad tokios klaidos išvengtų?“.

O jeigu DI pateikia tiesiog neteisingą informaciją?

Pasak S. Dzetaveckienės, situacijos, kai DI pateikia neteisingą informaciją yra labai dažnos.

„Darbuotojas paprašo DI parengti informaciją klientui, o sistema pateikia neegzistuojantį teisės aktą, klaidingą kainą, neteisingą techninę specifikaciją ar išgalvotą faktą. Darbuotojas atsakymo nepatikrina ir informacija paskelbiama svetainėje arba išsiunčiama klientui. Tokiu atveju pasakymas „taip parašė ChatGPT“ problemos neišsprendžia. Įmonė pasirinko naudoti įrankį savo veikloje ir paskelbė jo sugeneruotą informaciją. Todėl žmogaus atliekama DI rezultatų patikra tampa ne formalumu, o viena iš rizikos valdymo priemonių“, – teigia S. Dzetaveckienė.

Europos Sąjunga jau reguliuoja ne tik DI kūrėjus

Situaciją Europoje keičia ES Dirbtinio intelekto aktas (AI Act). Jis paremtas rizikos principu – kuo didesnę potencialią riziką kelia DI sistema, tuo griežtesni reikalavimai jai gali būti taikomi. Svarbu ir tai, kad teisės

aktuose kalbama ne tik apie DI sistemų kūrėjus ar tiekėjus. Jame išskiriami ir DI sistemų diegėjai – fiziniai ar juridiniai asmenys, kurie naudoja tokias sistemas savo veikloje.

„Europos Komisija paaiškina, kad, pavyzdžiui, kai DI sistemą naudoja įmonė, būtent juridinis asmuo laikomas jos diegėju. Atskiras darbuotojas, naudojantis sistemą įmonės pavedimu ir jos kontroliuojamas, paprastai nelaikomas atskiru diegėju. Tai svarbi detalė verslui“, – pasakoja specialistė.

Tai reiškia, kad DI įrankio naudojimas įmonėje nėra vien konkretaus darbuotojo reikalas. Didelės rizikos DI sistemoms numatoma ir žmogaus priežiūra: įmonė turi stebėti sistemos veikimą, reaguoti į rizikas bei užtikrinti, kad būtų žmonių, galinčių realiai kontroliuoti jos darbą. Principas „paleidome DI ir palikome jį dirbti“ rizikingose srityse tampa vis sunkiau pateisinamas.

Kas atsakingas – DI kūrėjas ar jį naudojanti įmonė?

Kaip teigia S. Dzetaveckienė, atsakomybės klausimas priklauso nuo konkrečios situacijos.

„DI kūrėjo ar tiekėjo atsakomybės klausimas gali kilti, jeigu problema susijusi su pačia sistema, jos saugumu, projektavimu, deklaruotomis galimybėmis ar teisės aktuose nustatytų pareigų nevykdymu. DI naudojančiai įmonei klausimų gali kilti tuomet, jei sistema naudota netinkamai, ignoruojant instrukcijas, be reikalingos kontrolės arba patikint jai užduotis, kurioms ji nebuvo skirta. Kai kuriais atvejais gali būti vertinama ir kelių šalių atsakomybė“, – aiškina ekspertė.

Specialistė pabrėžia, kad įmonei nebūtina laukti teismo sprendimo ar naujo reglamento, kad pradėtų valdyti riziką. Jeigu darbuotojai naudoja „ChatGPT“, „Claude“, „Gemini“, „Copilot“ ar kitus DI įrankius, verta nusistatyti pagrindines vidaus taisykles. Reikėtų aiškiai nustatyti, kokius DI įrankius darbuotojai gali naudoti, kokius duomenis galima ir negalima jiems pateikti, kokias užduotis galima automatizuoti, kokius DI sugeneruotus rezultatus privalo patikrinti žmogus, kas atsakingas už galutinį sprendimą ir kada DI apskritai negalima naudoti be specialisto patikros. Kuo svarbesnis sprendimas, tuo mažiau turėtų būti aklo pasitikėjimo DI rezultatu.

Ar galėsime įrodyti, kaip DI priėmė sprendimą?

S. Dzetaveckienė priduria, kad svarbus ir dar vienas klausimas – ar po metų galėsime atkurti, kaip konkretus sprendimas buvo priimtas?

„Įsivaizduokime, kad po metų kyla ginčas dėl dokumento, kurį rengiant buvo naudojamas DI. Kokį modelį naudojome? Kokią užduotį jam pateikėme? Kokius dokumentus DI analizavo? Kokį atsakymą pateikė? Ar žmogus jį koregavo? Kas patvirtino galutinę versiją? Jeigu šios informacijos nėra, vėliau gali būti sunku atkurti visą sprendimo grandinę“, – sako specialistė.

Todėl, pasak jos, svarbesniais atvejais organizacijoms verta galvoti ir apie DI naudojimo audito pėdsaką – išsaugoti informaciją apie naudotą modelį, užklausą, šaltinius, pakeitimus ir žmogaus atliktą patikrą.

DI gali klysti. Atsakomybės jam perduoti negalime

Ilgą laiką pagrindinis klausimas buvo: „ką gali dirbtinis intelektas?“ Dabar vis svarbesnis tampa kitas: „ką jam galime leisti daryti savarankiškai?“

„Kuo daugiau DI gauna prieigos prie įmonės duomenų, sistemų ir realių veiksmų, tuo didesnė tampa ne tik jo teikiama nauda, bet ir atsakomybės klausimas. Todėl verslui reikės ne tik mokėti naudotis dirbtiniu intelektu. Reikės mokėti valdyti jo naudojimą. Frazė „DI pats taip padarė“ gali paaiškinti, kas techniškai įvyko. Tačiau ji nebūtinai atsakys į svarbiausią klausimą – kas turėjo pasirūpinti, kad taip neatsitiktų?“, – teigia S. Dzetaveckienė.