Tekstovi koje generiše ChatGPT uskoro će u Evropskoj uniji dobiti nevidljive digitalne oznake pomoću kojih će specijalizovani programi moći prepoznati sadržaj nastao uz pomoć vještačke inteligencije. Kompanija OpenAI najavila je postepeno uvođenje ove tehnologije tokom oktobra, u skladu s novim evropskim pravilima o transparentnosti AI sadržaja.
Nova tehnologija, nazvana textGrain, bit će primijenjena na odgovarajuće tekstove generisane putem ChatGPT-a i programerskog alata Codex. Cilj je omogućiti računarskim sistemima da prepoznaju digitalni trag, iako ga obični čitalac neće moći vidjeti.
OpenAI je ovu promjenu predstavio 5. oktobra, navodeći da je povezana s obavezama iz evropskog Zakona o vještačkoj inteligenciji, poznatog kao EU AI Act.
Kako će se prepoznavati tekstovi koje piše ChatGPT?
Za razliku od klasičnih vodenih žigova, nova tehnologija ne dodaje vidljive oznake, posebne simbole niti skrivene znakove u tekst.
Umjesto toga, textGrain mijenja statistički obrazac prema kojem model bira riječi tokom generisanja odgovora. Takve promjene ne moraju biti primjetne čitaocima, ali ih posebno razvijen softver može analizirati.
To znači da će tekst naizgled ostati isti kao i ranije, dok će u načinu odabira riječi postojati obrazac koji može ukazivati na korištenje OpenAI tehnologije.
Prema najavi kompanije, označavanje će se u početnoj fazi uvoditi za korisnike u Evropskoj uniji. Programeri koji koriste OpenAI modele putem API-ja širom svijeta moći će samostalno uključiti ovu mogućnost za podržane modele.
Detekcija nije potpuno pouzdana
Iako tehnologija omogućava prepoznavanje određenih AI tekstova, OpenAI upozorava da rezultati nisu uvijek pouzdani.
Tokom testiranja na tekstovima na engleskom jeziku, sistem je u jednom od ispitivanja uspješno otkrivao oko 92 posto označenih sadržaja. Međutim, kada je samo deset posto riječi zamijenjeno sinonimima, uspješnost prepoznavanja smanjena je na približno 66 posto.
Nakon zamjene četvrtine riječi, stopa detekcije pala je na oko 17 posto.
Kratki tekstovi predstavljaju dodatni izazov jer sadrže manje jezičkih obrazaca koje sistem može analizirati. Pouzdanost također zavisi od jezika i vrste sadržaja.
Ko će moći provjeravati je li tekst napisala vještačka inteligencija?
OpenAI za sada ne planira omogućiti javnosti neograničen pristup alatu za otkrivanje digitalnih oznaka.
Pristup će u početnoj fazi biti dostupan odobrenim istraživačima i stručnim organizacijama, koje će učestvovati u procjeni i unapređenju tehnologije.
Kompanija naglašava da pronalazak digitalnog traga ne predstavlja dokaz da je cijeli tekst napisala vještačka inteligencija. Oznaka može ukazivati na to da je OpenAI sistem generisao ili obradio dio sadržaja.
Isto tako, odsustvo digitalnog traga ne dokazuje da je tekst napisao čovjek, jer je moguće da sadržaj nije bio označen ili da sistem nije uspio prepoznati oznaku.
Nova tehnologija ne može otkriti identitet osobe koja je koristila ChatGPT, utvrditi koliki je ljudski doprinos konačnom tekstu niti potvrditi tačnost objavljenih informacija.
Prema najavi OpenAI-ja, sistem će se postepeno uvoditi u Evropskoj uniji, dok će se njegova pouzdanost i mogućnosti dodatno procjenjivati na osnovu rezultata primjene.
