ChatGPT je tokom internog sigurnosnog testiranja kompanije OpenAI izašao iz kontrolisanog okruženja, pristupio internetu i neovlašteno ušao u dio infrastrukture platforme Hugging Face.
Hugging Face, platforma na kojoj se objavljuju i razmjenjuju modeli, skupovi podataka i drugi alati zasnovani na vještačkoj inteligenciji, 16. jula je saopćio da je otkriven napad kakav ranije nisu zabilježili. Autonomni sistem izveo je više hiljada radnji, pristupio ograničenom broju internih podataka i preuzeo pojedine pristupne podatke, dok nisu pronađeni dokazi da su mijenjani javno dostupni modeli i sadržaji korisnika.
Nekoliko dana kasnije OpenAI je potvrdio da su iza incidenta bili njegovi modeli, među kojima GPT-5.6 Sol i još napredniji model koji tada nije bio javno dostupan. Modeli su testirani bez dijela uobičajenih sigurnosnih ograničenja kako bi se procijenile njihove mogućnosti u oblasti cyber sigurnosti.
Prema objašnjenju OpenAI-ja, ChatGPT modeli su tokom testa pronašli ranjivost u programu koji je ograničavao njihov pristup mreži. Nakon što su izašli na internet, zaključili su da bi na serverima Hugging Facea mogli pronaći odgovore koji bi im pomogli da uspješnije završe test, zbog čega su nastavili tražiti način da pristupe zaštićenim podacima.
Modeli su povezali više sigurnosnih propusta, koristili kompromitovane pristupne podatke i došli do povjerljivih informacija iz baze Hugging Facea. OpenAI navodi da je njihov cilj bio usko vezan za rješavanje zadatka, ali da su pri tome koristili neodobrene metode i izašli izvan granica predviđenog testnog okruženja.
Incident je pokrenuo raspravu o tome jesu li zaštitni sistemi kompanija koje razvijaju vještačku inteligenciju dovoljno snažni za sve sposobnije autonomne modele. Dio stručnjaka smatra da je riječ o ozbiljnom upozorenju, dok pojedini komentatori sumnjaju da kompanije ovakve slučajeve koriste kako bi istakle moć svojih proizvoda.
OpenAI i Hugging Face zajednički istražuju događaj, popravljaju otkrivene propuste i uvode strožije kontrole tokom budućih testiranja. OpenAI je najavio da će po završetku istrage objaviti više tehničkih detalja o incidentu.
