Dirbtinis intelektas iki pat gelmių: „Google“ AI cituoja AI sukurtus tinklalapius

„Google“ AI apžvalgos (AIO), dažnai pasirodančios organinių paieškos rezultatų viršuje, apie 10 proc. savo šaltinių semiasi iš dokumentų, sukurtų… kitų dirbtinių intelektų, teigiama neseniai paskelbtoje ataskaitoje.

Reklama

Bendrovė „Originality.ai“, kurianti AI aptikimo programinę įrangą, ištyrė 29 000 „Your Money or Your Life“ (YMYL) „Google“ užklausų, apimančių svarbias temas, tokias kaip sveikata, finansai, teisė ar politika. Buvo įvertintos AIO, rodomos puslapio viršuje, jų cituojamos nuorodos ir pirmieji 100 organinių paieškos rezultatų kiekvienai užklausai.

Naudodama „AI Detection Lite 1.0.1“ modelį, bendrovė nustatė, kad 10,4 proc. citatų greičiausiai buvo sugeneruotos didelio kalbos modelio (LLM). Tai reiškia, kad vienas AI remiasi kito AI sukurtais rezultatais, kas gali prisidėti prie perdirbtų idėjų ir šališkumo aido kameros formavimosi.

„Net maža AI sugeneruotų citatų dalis svarbiose srityse kelia pasitikėjimo ir patikimumo klausimų,“ elektroniniame laiške „The Register“ teigė „Originality.ai“ rinkodaros ir pardavimų direktorė Madeleine Lambert. „Nors AI apžvalgos tiesiogiai nenaudojamos mokymo duomenims, per didelis AI sukurto turinio atrinkimas padidina tikimybę, kad šie rezultatai bus perdirbti į būsimus modelius, taip sukuriant rekursinį ciklą.“

Modelio griūties rizika

Kai AI modeliai mokosi iš kitų AI modelių, ilgainiui tai gali sukelti modelio griūtį, kai rezultatai vis prastėja. 2024 m. „Nature“ straipsnyje teigiama:

Modelio griūtis yra degeneracinis procesas, veikiantis kartas mokomų generatyvinių modelių, kai jų sukurti duomenys užteršia kitos kartos mokymo rinkinį. Mokomi su užterštais duomenimis, jie neteisingai suvokia realybę.

„Google“, paklausta apie atsakymą, suabejojo „Originality.ai“ detektoriaus tikslumu. „Šis tyrimas yra netikslus, remiasi daliniais duomenimis ir nepatikima technologija,“ teigė bendrovės atstovas. „AI detektoriai neįrodė savo efektyvumo aptikdami AI sugeneruotą turinį – daugelis jų yra linkę į klaidas. Kaip ir platesnėje paieškoje, AI apžvalgų nuorodos yra dinamiškos ir keičiasi pagal tai, kas yra aktualiausia, naudingiausia ir laiku atliekamai paieškai.“

Nors „Originality.ai“ nėra tobulas, jis kitur pelnė aukštus tikslumo įvertinimus. 2024 m. Floridos universiteto tyrime įrankis nuosekliai vertino GPT-4 sugeneruotas santraukas kaip AI (vidutinis balas 0,975). Kitas Arizonos valstijos universiteto tyrimas parodė tik 2 proc. klaidingų teigiamų ir klaidingų neigiamų rezultatų rodiklį.

„Google“ požiūris į AI turinį

„Google“ niekada nežadėjo uždrausti AI sugeneruoto turinio savo sąrašuose ar citatose. 2023 m. tinklaraščio įraše bendrovė aiškiai nurodė, kad AI straipsnius vertins pagal kokybę, o ne pagal tai, ar juos sukūrė žmogus. „AI gali suteikti naujus išraiškos ir kūrybiškumo lygius bei būti svarbiu įrankiu kuriant puikų turinį internete,“ teigė „Google“. Paskelbti Baltijos tvarumo lyderiai

Reklama

Vis dėlto „Google“ AI apžvalgos greičiausiai vis dažniau remsis ir mokysis iš kitų AI sukurto turinio, nes bendrovė mažina žmogaus leidėjų srautą, atimdama jiems reikalingą lankomumą. 2024 m. liepos mėn. „Pew Research Center“ tyrimas parodė, kad vartotojai, susidūrę su AI apžvalga, beveik perpus rečiau spustelėja nuorodą į kitą svetainę. „Google“ ginčijo šio tyrimo rezultatus, tačiau kiti tyrimai, pavyzdžiui, „Ahrefs“ balandžio mėn. analizė, parodė 34,5 proc. mažesnį paspaudimų rodiklį pirmajam rezultatui, kai virš jo buvo AI apžvalga.

Citatos ir reitingai

Iš likusių „Originality.ai“ tirtų AIO citatų 74,4 proc. buvo parašytos žmonių, o 15,2 proc. priskirtos „neklasifikuojamų“ kategorijai – tai per trumpos citatos, vaizdo įrašai, PDF dokumentai ar neveikiančios nuorodos. Lambert pažymėjo, kad 20 proc. neveikiančių nuorodų galėjo būti užblokuotos tik „Originality.ai“ skeneriui, o kitos buvo nepasiekiamos ir žmonėms. Turbulencijos pabaiga bus dar šiemet, bet apie nulines palūkanas pamirškite

Įdomu tai, kad 52 proc. veikiančių AIO citatų nuorodų nebuvo tarp 100 geriausių „Google“ organinių paieškos rezultatų tam pačiam terminui. Iš šių 52 proc. „Originality.ai“ 12,8 proc. (daugiau nei bendras 10,4 proc.) identifikavo kaip AI sugeneruotas.

Palyginimui, „Ahrefs“ liepos mėn. tyrime, analizavusiame 1,9 mln. citatų iš 1 mln. AIO, nustatyta, kad 76 proc. citatų buvo tarp 10 geriausių rezultatų, 9,5 proc. – tarp 100 geriausių, o tik 14,4 proc. cituotų puslapių nebuvo reitinguojami. AI dirbtinis intelektas

„The Better Web Co.“ įkūrėjas ir SEO ekspertas Samas Robsonas teigė, kad paprastai mato stiprią koreliaciją tarp puslapių, patenkančių į 10 geriausių, ir AIO citatų. Tačiau jis spėjo, kad „Originality.ai“ rezultatai gali skirtis dėl išskirtinio dėmesio YMYL užklausoms. „AI apžvalgos, varomos Gemini, skirtos gilintis į įvairesnius mokymo duomenis nei tradicinė „Google“ paieška. YMYL srityje, kur vertinga informacija dažnai randama PDF, moksliniuose straipsniuose ar kituose neoptimizuotuose formatuose, AI apžvalgos geriau išryškina šiuos šaltinius,“ – „The Register“ sakė Robsonas. Dirbtinis intelektas (AI)

„Google“ teigimu, pateikimas tarp 100 geriausių rezultatų nebūtinai reiškia, kad nuoroda turėtų būti cituojama AI apžvalgoje. Bendrovės atstovas pažymėjo, kad AIO naudoja „užklausų išplėtimo techniką“ [PDF], atliekančią kelias susijusias paieškas, kad sudarytų atsakymą. Taigi, net jei užklausa buvo viena, AI įrankis galėjo atlikti daug panašių, bet šiek tiek skirtingų paieškų.