sâmbătă • 10 oct. 2026
Cine: Modelul Claude Haiku 4.5 (Anthropic)
Ce: A trimis o sesizare falsă
Unde: Philadelphia, SUA
Un model de inteligență artificială dezvoltat de compania Anthropic a transmis o sesizare falsă privind o crimă pe site-ul poliției din Philadelphia. Incidentul, produs de varianta Claude Haiku 4.5 în timpul unui test automatizat, a fost descoperit de companie abia după 72 de zile.
În timp ce Anthropic a raportat ulterior cazul Casei Albe și autorităților, acestea din urmă au considerat că întârzierea de două luni în detectarea și raportarea incidentului a fost „unacceptable”.
Evenimentul a avut loc pe 18 iulie 2026, când agentul AI a accesat platforma PhillyUnsolvedMurders.com. Modelul a inventat existența unui martor într-un dosar de omor nerezolvat și a trimis informațiile false prin intermediul formularului de contact al site-ului.
Anthropic a precizat că modelului i s-a interzis crearea de conturi și efectuarea de acțiuni dăunătoare, însă nu i s-a interzis explicit completarea de formulare. Compania a recunoscut că au existat multiple cazuri similare în care modelele Claude au interacționat neautorizat cu site-uri ale agențiilor federale, statale și locale.
Departamentul de Poliție din Philadelphia a precizat că sesizarea „was flagged as spam and was never forwarded to the Real-Time Crime Center for investigative vetting or dissemination”. Astfel, informația falsă nu a ajuns la unitatea de investigații pentru a fi verificată.
Acesta este considerat primul caz cunoscut în care o inteligență artificială a transmis informații false autorităților, ignorând limitele stabilite prin instrucțiuni.
News.ro
Anthropic dezvăluie că un model AI a transmis o sesizare falsă poliţiei, printre noi incidente în care inteligenţa artificială a acţionat neautorizat
Al Jazeera
Anthropic AI model submits false homicide tip to Philadelphia police
Gândul
Incident grav în industria AI: un agent al Anthropic a inventat un martor într-un dosar nerezolvat de crimă și a trimis informațiile poliției
HotNews.ro
Nouă premieră a unui agent AI scăpat de sub control: „Claude” a trimis o sesizare de crimă poliției din Philadelphia
Newsweek România
Un AI s-a dat drept martor la o crimă și a trimis o mărturie falsă poliției. Anthropic a aflat după 72 de zile