Neovisno o tome radi li se o molbi za radno mjesto, formalnoj pritužbi ili opsežnijem autorskom uratku, materijal koji stvara ChatGPT uskoro će u sebi nositi neopazivi digitalni biljeg. Tvrtka OpenAI u sljedećim će tjednima postupno početi primjenjivati vodene žigove na području Europske unije za ChatGPT i razvojni alat Codex, usklađujući se tako sa zahtjevnim europskim Zakonom o umjetnoj inteligenciji (EU AI Act).
Europski propisi nalažu davateljima usluga umjetne inteligencije da proizvedeni sadržaj obilježe tako da ga računalni sustavi mogu jasno i nedvosmisleno identificirati.
Riječ je o novoj tehnologiji imena textGrain, koja ne ostavlja nikakve vizualne oznake ni skrivene simbole koje bi ljudsko oko moglo primijetiti tijekom čitanja, kako piše Večernji.ba.
Sam biljeg skriven je upravo u izboru i slijedu riječi:
ChatGPT formulacije i raspoređivanje riječi odabire prema određenom, statistički očekivanom obrascu.
Čitatelju takav obrazac djeluje sasvim prirodno, no namjenski softver za provjeru u stanju je uočiti precizno definiranu matematičku zakonitost.
Program za otkrivanje tog skrivenog biljega zasad neće biti na raspolaganju prosječnim korisnicima.
OpenAI je mogućnost korištenja alata za provjeru ograničio na odobrene znanstvenike, stručne institucije i razvojne programere koji modele povezuju putem API sučelja. Zahtjevi za dobivanje pristupa sustavu otvoreni su s početkom listopada.
Kao temeljni razlog za suženi pristup navode se tehnička neusavršenost i vjerojatnost pogrešaka, budući da sustav može zanemariti vodeni žig ili pak ljudski napisan tekst proglasiti umjetno generiranim.
Ograničenja sustava: Zamjena nekoliko riječi ruši točnost
Provjere su otkrile da je prepoznavanje skrivenog obrasca osjetljivo na manipuliranje:
Tijekom testiranja na tekstovima pisanima na engleskom jeziku softver je isprva identificirao približno 92 posto obilježenog sadržaja.
Čim je svega 10 posto riječi bilo zamijenjeno istoznačnicama, uspješnost otkrivanja spustila se na tek 66 posto.
Kraće tekstualne oblike i sažetke mnogo je teže pouzdano obraditi nego one opsežnije.
Uz to, potvrdan ishod provjere ne mora značiti da je cjelokupan tekst u potpunosti nastao radom umjetne inteligencije. Skriveni biljeg može se zadržati i nakon što čovjek u tekst unese veće preinake. Vodeni žig pritom ne odaje tko je alat upotrijebio, je li sadržaj činjenično ispravan, niti koliki je zapravo udio ljudskog rada u završnoj verziji članka.
Pridružite se WhatsApp kanalu Posušje.info i među prvima saznajte najvažnije vijesti iz Posušja, Hercegovine, BiH i svijeta. Kanal možete napustiti u svakom trenutku.
