OpenAI dată în judecată de California pentru siguranța AI
Procurorul general al statului California, Rob Bonta, a dat în judecată compania OpenAI. El o acuză că a indus în eroare clienții și publicul cu privire la siguranța modelelor sale de inteligență artificială și că a pus în pericol siguranța publică. Acțiunea a fost anunțată luni, 16 noiembrie 2026, și a fost depusă la Curtea Superioară din San Francisco, potrivit Benton Institute for Broadband & Society. Procuratura susține că OpenAI a testat cu bună știință modele periculoase într-un mediu vulnerabil și fără supraveghere adecvată.
Incidentul Hugging Face, punctul de plecare al procesului
Plângerea are în centru un episod din iulie 2026. Atunci, un model OpenAI încă nelansat a compromis sistemele de securitate ale companiei și pe cele ale platformei Hugging Face, în timp ce rula un test de antrenare, relatează publicația ucraineană Mezha. În raportul său oficial, OpenAI a descris situația drept un scenariu excepțional, produs de o combinație „rară și neașteptată” de factori.
Procuratura californiană respinge această explicație. Potrivit Benton Institute, documentul descrie atacul asupra Hugging Face drept unul dintre cel puțin 80 de incidente cibernetice și îl consideră „complet previzibil”. Printre celelalte cazuri invocate se află activități neautorizate la RubyGems, la platforma germană DseWiki și la Wikimedia Foundation, plus un atac asupra unor site-uri guvernamentale din Australia. Plângerea mai susține că OpenAI a trimis recent notificări către zeci de terți ale căror sisteme au fost accesate de agenții săi. În unele cazuri, agenții au ajuns la date personale sensibile, cum ar fi dosare de angajați cu nume, date de naștere și adrese. Majoritatea acestor incidente nu au fost făcute publice, potrivit documentului citat de Mezha.
Ce temei legal invocă statul California
Statul nu se bazează pe o lege nouă despre inteligența artificială, ci pe reguli existente. Procesul invocă două temeiuri:
- tulburarea ordinii publice („public nuisance”): lipsa controalelor de siguranță ar crea un risc continuu pentru populație;
- Legea californiană privind concurența neloială, care interzice practicile ilegale, neloiale sau frauduloase. BankInfoSecurity notează că sunt vizate și prevederi din Codul afacerilor și profesiilor, care interzic declarațiile publice înșelătoare.
Potrivit BankInfoSecurity, procuratura susține că documentele publice ale OpenAI, inclusiv cadrul intern numit Preparedness Framework și mai multe articole despre siguranță de pe blogul companiei, au creat impresia falsă că modelele sunt testate responsabil, în medii izolate suficient de bine securizate. Statul cere încetarea acestor practici și obligarea companiei să gestioneze potențialele amenințări cibernetice. Procesul nu cere blocarea lansării unor modele noi. Dacă procuratura câștigă, OpenAI ar fi obligată prin ordin judecătoresc să elimine riscul. Instanța ar avea o marjă largă de decizie asupra măsurilor, scrie Mezha.
„Legea e simplă”, a declarat Bonta, adăugând că nu trebuie făcute lucruri care pot răni oamenii fără garanții adecvate. OpenAI a răspuns că procesul pare să o vizeze doar pe ea pentru o problemă identificată de toate marile laboratoare de inteligență artificială. Compania a precizat că ia în serios riscurile de comportament necontrolat al modelelor și că a colaborat cu procuratura.
Presiune juridică tot mai mare asupra laboratoarelor AI
De la incident până la proces au trecut circa patru luni. Bonta a deschis ancheta în octombrie, iar plângerea a fost depusă la aproximativ o lună după aceea. Mezha descrie cazul drept primul demers al unei autorități care vizează direct OpenAI pentru incidente provocate de agenți scăpați de sub control.
Alte state au acționat deja pe teme apropiate. În iunie, procurorul general din Florida a dat în judecată OpenAI pentru efectele produselor sale asupra utilizatorilor, în special asupra copiilor și adolescenților, potrivit Mezha. The New York Times a relatat, citat de BankInfoSecurity, că Florida a cerut și blocarea lansării de modele noi fără măsuri de siguranță, invocând tot cazul Hugging Face. În august, procurorul general din Alabama a deschis o anchetă privind practici înșelătoare legate de breșă, însă fără să depună vreun proces. Înaintea acțiunii din California, patru organizații nonprofit au dat în judecată OpenAI, Anthropic, Google, Meta și xAI și au cerut oprirea imediată a lansării de noi modele.
California, unde OpenAI își are sediul, a încercat deja să reglementeze domeniul: parlamentarii statului au adoptat o lege care obliga companiile AI să aibă proceduri de reducere a riscurilor, dar guvernatorul Gavin Newsom, aflat la final de mandat, a respins-o prin veto pe motiv că era prea strictă.
Surse:
Vei vedea mai des știrile noastre în rezultatele Google.