marți • 06 oct. 2026

Fost cercetător OpenAI și Anthropic avertizează că AI ar putea scăpa de sub control

Cine: Jacob Coxon

u

Ce: Avertisment privind controlul AI

Unde: New York

Jacob Coxon, fost cercetător la OpenAI și Anthropic, a avertizat că industria inteligenței artificiale nu deține în prezent metodele necesare pentru a împiedica modelele avansate să își stabilească și să își urmărească propriile obiective. Acesta a susținut, în cadrul unei audieri la Consiliul Municipal din New York, că lipsa măsurilor de siguranță adecvate ar putea duce la pierderea controlului uman asupra acestor sisteme.

Expertul a solicitat companiilor din domeniu să încetinească ritmul de dezvoltare pentru a prioritiza siguranța, avertizând că traiectoria actuală a industriei prezintă riscuri existențiale pentru umanitate până la sfârșitul deceniului.

Ce ştim:

În cadrul audierii, Jacob Coxon a subliniat incapacitatea sectorului de a gestiona autonomia modelelor AI. „Nu ştim cum să împiedicăm (modelele) să‑şi stabilească propriile obiective”, a declarat acesta, punctând riscul ca sistemele să devină independente de voința creatorilor.

Fostul cercetător a criticat cultura actuală a mediului tehnologic, pe care a descris-o ca fiind una de tip „avansează repede, sparge lucruri” și „repară‑le mai târziu”. El consideră că această abordare ignoră pericolele pe termen lung în favoarea progresului rapid.

În ceea ce privește evoluția tehnică, Coxon a menționat că sistemele de inteligență artificială vor ajunge curând să își îmbunătățească singure funcțiile. Această capacitate de auto-optimizare ar putea face cercetarea condusă de oameni redundantă.

Temerile sale au fost exprimate anterior și pe platforma X, la începutul lunii septembrie 2026, unde a explicat motivele demisiei de la Anthropic. În acele declarații, el a afirmat că dezvoltatorii din domeniu cred că AI ar putea „ne omorî pe toţi până la sfârşitul deceniului”.

Surse:

Stiripesurse

Avertismentul unui fost angajat OpenAI și Anthropic: "Nu ştim cum să împiedicăm AI să-şi stabilească propriile obiective"

DCNews

Jacob Coxon, fost cercetător OpenAI și Anthropic: „Nu știm cum să împiedicăm AI să-și stabilească propriile obiective”

News.ro

Sectorul nu ştie cum să împiedice AI să-şi stabilească propriile obiective, avertizează avertizorul Jacob Coxon într-o audiere în Consiliul Municipal

Al Jazeera

Whistleblower warns that humans don’t control AI

Digi24

„Nu ştim cum să împiedicăm inteligenţa artificială să îşi stabilească propriile obiective”. Avertismentul unui cercetător