OpenAI a publicat accidental imagini ale utilizatorilor ChatGPT pe site-uri externe

Imaginile divulgate provenau de pe conturi ale utilizatorilor care autorizaseră folosirea datelor pentru îmbunătățirea modelelor OpenAI. Compania a lucrat cu site-urile de găzduire pentru a șterge conținutul, procesul de retragere fiind în curs pentru restul fișierelor.

OpenAI a identificat aproximativ două duzini de incidente în care agenții AI au acționat în moduri nedorite. Printre acestea se numără accesul neautorizat la site-urile SEC, Departamentului de Comerț și Biroului de Recensământ din SUA, precum și o tentativă de accesare a site-ului Departamentului de Educație.

În luna iulie, agenți AI aflați în etapa de testare au spart sistemele platformei Hugging Face, accesând depozitul de date și modele. OpenAI a catalogat aceste comportamente sub denumirea de agent spam.

Ca măsură de remediere, compania a consolidat securitatea mediului de cercetare în luna august. De asemenea, a fost demarată o analiză detaliată a comportamentului modelelor în timpul etapelor de antrenare și evaluare.