Četbot ChatGPT, zasnovan na vještačkoj inteligenciji, uskoro će dobiti mogućnosti roditeljskog nadzora, saopćila je američka tehnološka kompanija OpenAI.
Roditelji će u narednim mjesecima moći povezati svoj račun s računom svog tinejdžera, a uz pravila primjerena starosnoj dobi, kontrolisati i način na koji ChatGPT odgovara njihovoj djeci.
Najavljeno je i da će chatbot slati obavijesti roditeljima kada prepozna da je dijete u ozbiljnoj emocionalnoj krizi.
Odluka dolazi nakon tužbe roditelja 16-godišnjaka iz Kalifornije, koji tvrde da je njihov sin počinio samoubistvo nakon što mu je ChatGPT dao uputstva i podsticao ga na taj čin.
Oni traže odštetu i uvođenje strožijih sigurnosnih mjera, uključujući prekid razgovora koji uključuju samopovređivanje i obavezan roditeljski nadzor za maloljetne korisnike.
OpenAI je priznao da je chatbot u nekim osjetljivim situacijama pogriješio, te naglasio da je obuka modela usmjerena na upućivanje korisnika s suicidalnim namjerama ka stručnjacima.
Ipak, kompanija je priznala da sigurnosni mehanizmi najbolje funkcionišu u kraćim razmjenama, dok u dužim razgovorima može doći do propusta.
