OpenAI įveda „ChatGPT“ tėvų kontrolę

Tėvai galės susieti paskyras, nustatyti funkcijų apribojimus ir gauti įspėjimus, jei jų paauglys rodo emocinio išgyvenimo požymius. Jautrūs „ChatGPT“ pokalbiai taip pat bus nukreipiami per atsargesnius modelius, apmokytus atsakyti žmonėms, išgyvenantiems krizę.

Reklama

„OpenAI“ įgyvendina „ChatGPT“ saugos patobulinimus, skirtus apsaugoti paauglius ir žmones, susiduriančius su emocinėmis krizėmis. Bendrovė paskelbė planus pristatyti tėvų kontrolę, kuri leis tėvams susieti savo paskyras su savo vaikų, pradedant nuo 13 metų, paskyromis. Jie galės riboti funkcijas ir gaus realaus laiko įspėjimus, jei dirbtinis intelektas aptiks probleminių žinučių, galinčių rodyti depresiją ar kitą emocinį išgyvenimą.

Šis atnaujinimas rodo, kad „OpenAI“ nesiruošia neigti, jog paaugliai naudoja „ChatGPT“ ir kartais traktuoja dirbtinį intelektą kaip draugą ar patikėtinį. Nors tai nėra tiesiogiai paminėta, tai atrodo kaip atsakas į neseniai įvykusius garsius atvejus, kai žmonės teigė, kad bendravimas su dirbtinio intelekto pokalbių robotu lėmė artimojo savižudybę.

Naujosios kontrolės priemonės pradės veikti per ateinantį mėnesį. Kai jos bus nustatytos, tėvai galės nuspręsti, ar „ChatGPT“ pokalbių robotas gali išsaugoti pokalbių istoriją ar naudoti atminties funkciją. Taip pat pagal numatytuosius nustatymus bus taikomos amžiui tinkamos turinio gairės, reglamentuojančios dirbtinio intelekto atsakymus. Jei įvyks pažymėtas pokalbis, tėvai gaus pranešimą. Tai nėra visuotinis stebėjimas, nes kitais atvejais tėvai negaus jokių pranešimų apie pokalbius, tačiau įspėjimai bus siunčiami tais momentais, kai gali prireikti realaus pasaulio patikrinimo.

„Mūsų darbas, kad „ChatGPT“ būtų kuo naudingesnis, yra nuolatinis ir tęsiamas. Matėme, kaip žmonės kreipiasi į jį sunkiausiais momentais“, – „OpenAI“ paaiškino savo tinklaraščio įraše. „Todėl mes toliau tobuliname, kaip mūsų modeliai atpažįsta ir reaguoja į psichikos ir emocinio išgyvenimo požymius, vadovaudamiesi ekspertų rekomendacijomis.“ SEO optimizavimas

Emociškai saugūs modeliai

Suaugusiems ir paaugliams „OpenAI“ teigia, kad pradės nukreipti jautrius pokalbius, susijusius su psichikos sveikatos problemomis ar savižudybės mintimis, per specializuotą „ChatGPT“ modelio versiją. Šis modelis naudoja metodą, vadinamą apgalvotu derinimu, kad atsakytų atsargiau, atsispirtų priešiškiems užklausimams ir laikytųsi saugos gairių. „OpenAI“ pristato kreditais pagrįstą „ChatGPT Enterprise“ kainodarą, atsisakydama fiksuotos kainos

Kad naujoji saugos sistema veiktų, „OpenAI“ sukūrė Gerovės ir dirbtinio intelekto ekspertų tarybą bei Pasaulinį gydytojų tinklą, kuriame yra daugiau nei 250 psichikos sveikatos, priklausomybių ir paauglių priežiūros specialistų. Šie patarėjai padės formuoti, kaip aptinkamas išgyvenimas, kaip dirbtinis intelektas atsako ir kaip turėtų veikti eskalacijos realaus pasaulio rizikos momentais.

Tėvai jau seniai nerimauja dėl ekrano laiko ir internetinio turinio, tačiau dirbtinis intelektas įveda naują sluoksnį: ne tik tai, ką jūsų vaikas mato, bet ir su kuo jis kalba. Kai tas „kas“ yra emociškai sudėtingas didelės apimties kalbos modelis, kuris skamba taip, lyg jam rūpėtų, nors iš tikrųjų yra tik algoritmas, viskas tampa dar sudėtingiau. Yra sprendimas DI sugeneruotiems namų darbams atpažinti

Iki šiol dirbtinio intelekto sauga dažniausiai buvo reaktyvi, tačiau naujosios priemonės skatina dirbtinį intelektą būti proaktyvesnį, siekiant užkirsti kelią žalai. Tikimės, kad tai reiškia, jog dažniausiai nereikės dramatiško teksto tėvams ar dirbtinio intelekto prašymo paaugliui pagalvoti apie savo artimuosius. Tai gali būti nepatogu ar kelti pasipiktinimą, tačiau jei naujosios funkcijos gali nukreipti pagalbos šauksmą turintį pokalbį toliau nuo pavojingos ribos, tai nėra blogai. Dirbtinis intelektas online free

Turinys priklauso: techradar.com