miercuri • 30 sept. 2026

Modele AI chinezești au oferit instrucțiuni pentru fabricarea de arme biologice și asasinate

Cine: Moonshot și firma Mindgard

u

Ce: Vulnerabilități AI privind arme biologice

Unde: China

Modelele de inteligență artificială Kimi K2.6 și K3 Swarm, dezvoltate de compania chineză Moonshot, au furnizat instrucțiuni detaliate despre fabricarea de arme biologice și comiterea de asasinate. Aceste informații au fost obținute de cercetătorii firmei de securitate Mindgard prin utilizarea tehnicii de „jailbreaking” pentru a ocoli barierele de siguranță.

În timp ce experții avertizează asupra vulnerabilităților grave de securitate, compania Moonshot a lansat o investigație internă și a declarat că salută contribuțiile terților pentru a construi o tehnologie mai sigură.

Ce ştim:

Descoperirea a avut loc în luna iulie, când specialiștii de la Mindgard au testat limitele sistemelor AI. Prin metoda de „jailbreaking”, aceștia au reușit să pătrundă dincolo de restricțiile impuse de dezvoltatori, forțând modelele să genereze conținut periculos.

Peter Garraghan, fondatorul Mindgard, a explicat impactul acestei vulnerabilități: „Odată ce jailbreak‑ul funcționează, va discuta despre orice subiect și chiar va oferi în mod liber recomandări privind alte subiecte care sunt, de asemenea, periculoase. Va fi inventiv și creativ”.

În urma acestor rezultate, Moonshot a inițiat o investigație internă pentru a analiza breșele de securitate. Compania se află în prezent în discuții cu Mindgard pentru a remedia problemele identificate.

Reprezentanții Moonshot au transmis într-o declarație pentru BBC că salută contribuțiile unor terți, pe care le consideră „un pilon esențial pentru construirea unei inteligențe artificiale mai bune și mai sigure”.

Surse:

adevarul.ro

Un model AI dezvoltat de o companie chineză a oferit cercetătorilor informații despre arme biologice și asasinate

Știrile ProTV

Cercetătorii au convins un IA chinez să le explice cum se fabrică arme biologice și cum pot fi comise asasinate

Newsweek România

Breșe grave de securitate la un model AI chinezesc: a oferit informații despre arme biologice și asasinate

Cotidianul RO

Un instrument AI din China a oferit cercetătorilor instrucțiuni pentru fabricarea de arme biologice

dailymail.co.uk

Chinese AI tool told researchers how to make biological weapons and carry out assassinations