Dirbtinis intelektas
TikTok užtvindytas rasistinėmis dirbtinio intelekto vaizdo įrašais, sukurtais naudojant „Google“ Veo 3
„Google“ Veo 3 vaizdo generatorių išleidimas gegužę buvo nerimą keliantis šuolis AI vaizdo kokybės srityje. Nors daugelis virusinių AI vaizdo įrašų, kuriuos matėme, yra nekenksmingi ir linksmi, šio modelio pikselių tikslumo išvestis taip pat gali būti naudojama piktavališkais tikslais. TikTok platformoje, kuri artimiausiais mėnesiais gali būti uždrausta arba ne, vartotojai pastebėjo rasistinių AI vaizdo įrašų perteklių, sukurtų naudojant „Google“ Veo 3.
Reklama
Remiantis „MediaMatters“ ataskaita, daugybė TikTok paskyrų pastarosiomis savaitėmis pradėjo skelbti AI sugeneruotus vaizdo įrašus, kuriuose naudojami rasistiniai ir antisemitiniai stereotipai. Didžioji dalis AI pagiežos nukreipta į juodaodžius, vaizduojant juos kaip „įprastus įtariamuosius“ nusikaltimuose, nesančius tėvus ir beždžiones, mėgstančias arbūzus. Turinys taip pat taikosi į imigrantus ir žydus. Vaizdo įrašai trunka iki aštuonių sekundžių ir turi „Veo“ vandens ženklą, patvirtinantį, kad jie sukurti naudojant pirmaujantį „Google“ AI modelį.
Žemiau pateiktame rinkinio vaizdo įraše yra pavyzdžių, paimtų iš TikTok po Veo 3 išleidimo, tačiau įspėjame, kad jame yra rasistinio ir antisemitinio turinio. Kai kurie vaizdo įrašai yra šokiruojantys, kas tikriausiai ir yra tikslas – niekas taip neskatina įsitraukimo socialiniuose tinkluose kaip pyktis ir drama. „MediaMatters“ praneša, kad originaliuose įrašuose yra daugybė komentarų, atkartojančių vaizdo įrašuose naudojamus stereotipus.
„Google“ pabrėžė saugumą, pristatydama naujus dirbtinio intelekto modelius – visi esame matę, kaip dirbtinis intelektas atsisako atlikti užduotį, kuri prieštarauja jo apsaugos riboms. Tai niekada nėra malonu, kai jūsų ketinimai yra tikrai nekenksmingi, bet sistema klaidingai aptinka problemą ir blokuoja jūsų išvestį. Anksčiau „Google“ dažniausiai rasdavo tinkamą pusiausvyrą, tačiau atrodo, kad „Veo 3“ yra lankstesnis. Mes išbandėme kelias paprastas užklausas su „Veo 3“ ir nustatėme, kad lengva atkurti šių vaizdo įrašų elementus.
Aiškios, bet nevykdomos taisyklės
„TikTok“ paslaugų teikimo sąlygos draudžia tokio tipo turinį. „Mes neleidžiame jokios neapykantos kalbos, neapykantos elgesio ar neapykantos ideologijų skatinimo. Tai apima aiškų ar numanomą turinį, kuris puola saugomą grupę“, – teigiama bendruomenės gairėse. Nepaisant šio visiško rasistinių karikatūrų draudimo, neapykantą kurstantys „Veo 3“ vaizdo įrašai, atrodo, plinta be jokios kontrolės. Reklama grožio versle
„TikTok“ pažymi, kad naudoja tiek technologijas, tiek žmones moderatorius, kad nustatytų taisykles pažeidžiantį turinį. Tačiau įkėlimų apimtis apsunkina savalaikį moderavimą. Nors rasistiniai vaizdo įrašai sulaukė daug peržiūrų, „TikTok“ atstovas „Ars“ teigia, kad daugiau nei pusė „MediaMatters“ ataskaitoje minimų paskyrų buvo užblokuotos dėl politikos pažeidimų dar prieš ataskaitos paskelbimą, o likusios dabar pašalintos. Automobilius niokoja ir iš keršto, ir iš pavydo
Kalbant apie „Google“, ji turi išsamų Naudojimo draudimų politiką, kuri draudžia naudoti jos paslaugas neapykantos kalbai, priekabiavimui, patyčioms, bauginimui ir piktnaudžiavimui skatinti. „MediaMatters“ aptikti vaizdo įrašai, atrodo, patenka į vieną ar daugiau šių kategorijų. Idealiame pasaulyje „Veo 3“ atsisakytų kurti šiuos vaizdo įrašus, tačiau neaiškios užklausos ir AI nesugebėjimas suprasti rasistinių stereotipų subtilybių (pvz., beždžionių naudojimas vietoj žmonių kai kuriuose vaizdo įrašuose) leidžia lengvai apeiti taisykles.
„TikTok“, būdamas pirmaujančia pasaulyje socialinių vaizdo įrašų platforma, yra natūrali vieta šiems vaizdo įrašams plisti. Tačiau tai nėra išskirtinai „TikTok“ problema. „X“ (buvęs „Twitter“) įgijo reputaciją dėl labai riboto moderavimo, dėl ko sprogo neapykantą kurstančio AI turinio apimtis. Ši problema taip pat gali greitai paaštrėti. „Google“ planuoja integruoti „Veo 3“ į „YouTube Shorts“, kas gali dar labiau palengvinti panašaus turinio plitimą „YouTube“ platformoje. Nematomas „YouTube“ pasaulis
„TikTok“ ir „Google“ turi aiškius šio turinio draudimus, kurie turėjo užkirsti kelią jo peržiūroms milijonais kartų socialiniuose tinkluose. Tačiau šių taisyklių vykdymas yra nepakankamas. „TikTok“, atrodo, nesugeba suspėti su vaizdo įrašų įkėlimų srautu, o „Google“ apsaugos ribos atrodo nepakankamos, kad blokuotų šio turinio kūrimą. Kreipėmės į „Google“, klausdami apie „Veo 3“ saugos funkcijas, tačiau dar nesulaukėme atsakymo. „Facebook“ jau 15 metų
Kol egzistuoja generatyvinis dirbtinis intelektas, žmonės jį naudoja kurdami provokuojantį ir rasistinį turinį. „Google“ ir kiti visada kalba apie apsaugos ribas, kad būtų užkirstas kelias piktnaudžiavimui, tačiau jos negali visko pagauti. „Veo 3“ realistiškumas daro jį ypač patraukliu tiems, kurie nori platinti neapykantą kurstančius stereotipus. Galbūt visos pasaulio apsaugos ribos to nesustabdys.
Turinys priklauso: arstechnica.com
