Kompanija Meta proširuje upozorenja roditeljima na Facebook i Messenger kako bi ih obavijestila kada pretrage ili razgovori tinejdžera s umjetnom inteligencijom ukažu na mogući rizik od samopovređivanja ili samoubistva. Nova mogućnost namijenjena je roditeljima koji koriste alate za nadzor naloga svoje djece.
Iz Mete su 29. oktobra saopćili da se sistem, ranije uveden za pretrage na Instagramu, sada proširuje na Facebook. Istovremeno se uvode dodatna upozorenja za razgovore s asistentom Meta AI na Facebooku i Messengeru, dok su takva upozorenja ranije uvedena na Instagramu.
Kada se šalju upozorenja roditeljima?
Kod pretraga je presudno ponavljanje određenih pojmova u kratkom periodu, a ne samo jedan upit. Meta nije objavila tačan broj pretraga nakon kojeg se aktivira obavještenje. Kompanija navodi da je kriterije odredila uz konsultacije sa stručnjacima kako bi prepoznala moguće znakove ugroženosti i istovremeno smanjila broj nepotrebnih upozorenja.
Drugi dio sistema odnosi se na razgovore tinejdžera s Meta AI asistentom na Instagramu, Facebooku i Messengeru. Ako komunikacija ukazuje na mogućnost samopovređivanja ili samoubistva, roditelj koji koristi nadzor može biti obaviješten. Prema navodima kompanije, razgovore koje sistem označi kao rizične prije slanja upozorenja dodatno provjerava osoblje.
Šta roditelji mogu vidjeti?
Obavještenja se šalju putem elektronske pošte, SMS-a ili WhatsAppa, u zavisnosti od dostupnih kontaktnih podataka, te kroz samu aplikaciju. Upozorenja ne otkrivaju konkretne pojmove koje je tinejdžer pretraživao niti sadržaj njegovih razgovora s umjetnom inteligencijom.
Uz upozorenja roditeljima su dostupni i materijali sa savjetima za razgovor o osjetljivim temama i informacijama o mogućim izvorima podrške. Sama funkcija ne uključuje se automatski za sve porodice, već je namijenjena roditeljima koji su aktivirali Metine alate za roditeljski nadzor.
Meta je ranije potvrdila da je sistem upozorenja za pretrage na Instagramu dostupan roditeljima širom svijeta, dok je proširenje na Facebook i Messenger najavljeno 29. oktobra.
