XAI nu poate nega că Grok produce CSAM, așa că dă în judecată utilizatorii
Elon Musk's xAI a intentat prima acțiune în instanță împotriva unui utilizator Grok acuzat de crearea de imagini sexuale cu minori. Această acțiune vine pe fondul presiunilor crescânde de a recunoaște că Grok poate genera imagini sexualizate neconsensuale, conform arstechnica.com.
👉 xAI acuză un utilizator de utilizare ilegală a Grok pentru generarea de CSAM
În fața unei presiuni tot mai mari de a admite că Grok poate fi folosit pentru a genera imagini sexualizate neconsensuale ale adulților și minorilor, xAI a intentat marți un proces împotriva primului utilizator pe care firma lui Elon Musk l-a acuzat de utilizarea chatbotului său pentru a crea conținut ilegal. Reclamația îi vizează pe Terry Wayne Harwood, care a fost arestat mai devreme în acest an pentru deținerea și distribuirea de materiale de abuz sexual asupra copiilor (CSAM), a anunțat biroul procuraturii din Carolina de Sud.
xAI a susținut că a asistat la această arestare după ce a descoperit că Harwood folosea două conturi xAI timp de luni de zile pentru a dezbrăca sau „nudifia” imagini non-sexuale ale mai multor victime, inclusiv o fetiță care părea să aibă doar 10 ani. Procesul xAI vine la puțin mai mult de o săptămână după ce o altă fetiță a aderat la o acțiune colectivă propusă, reprezentând mai mulți copii care au fost presupus afectați de Grok. Ea a susținut că tatăl ei vitreg s-a sinucis după ce a fost descoperit utilizând Grok, posibil în combinație cu alte instrumente AI, pentru a crea 7,000 de imagini sexualizate cu ea și apoi a le distribui pe dark web. În acel caz, victima a susținut că xAI a refuzat să ajute poliția să identifice utilizatorul care a încărcat imaginea ei pe Grok.
👉 Critici și date privind răspunsul xAI la generarea de conținut abuziv
Pentru a susține afirmațiile că este o practică obișnuită a xAI, avocații ei au citat un raport din 2026 al Centrului Național pentru Copii Dispăruți și Exploatați (NCMEC) care confirmă că 90% dintre rapoartele CyberTipline ale xAI „nu au fost acționabile de către forțele de ordine deoarece xAI a refuzat să includă informații despre utilizatori care ar permite autorităților să urmărească și să localizeze autorii.” În timp ce victimele acuzau xAI că protejează prădătorii, Musk a declarat anterior că nu a văzut exemple de CSAM generate de Grok. În loc să restricționeze output-urile Grok pentru a face imposibilă generarea de CSAM, Musk a avertizat utilizatorii să acționeze responsabil, postând pe X pe 3 ianuarie că „oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal.”
În timp ce Musk publica toate acestea, Harwood părea să ignore avertismentul lui Musk și a solicitat lui Grok de atâtea ori câte a fost necesar pentru a obține generarea de imagini explicite neconsensuale. Acum Musk aparent nu poate nega că Grok produce CSAM. Procesul xAI a afirmat că Harwood a folosit cel puțin două conturi cu nume de utilizator complicate—„ceae2cb4-a9f6-4885-8ae9-6e2096d084f4” și „befccb94-4029-454d-9f1f-0d4945e8fa7c”—pentru a genera conținut ilegal între 8 decembrie și 18 februarie. Uneori, măsurile de protecție ale Grok au prevenit output-urile dăunătoare, „refuzând să urmeze” unele dintre solicitări „pe baza cărora materialul respectiv încălca regulile de moderare a conținutului Grok.”
Procesul include un exemplu de solicitare deosebit de neplăcut pe care Grok a respins-o, folosind expresii precum „murdărie albă” pentru a masca intenția de a genera imagini sexualizate. Acea solicitare particulară a fost probabil respinsă dintr-un motiv evident, totuși. Harwood i-a cerut explicit chatbotului să „îndepărteze toată îmbrăcămintea ei,” ceea ce încalcă direct termenii de utilizare ai xAI împotriva solicitărilor de a dezbrăca persoane reale.
În acțiunea colectivă propusă, se afirmă că xAI ignoră multe solicitări necorespunzătoare, raportând la NCMEC doar o solicitare pentru a ilustra un „viol în grup” din cele 7,000 de output-uri dăunătoare în cazul celei mai recente victime. Probabil pentru a evita ca alți actori rău intenționați să ocolească măsurile de protecție, xAI nu a inclus exemple ale solicitărilor reușite ale lui Harwood sau descrierea metodelor utilizate pentru a ocoli filtrele. xAI a susținut doar că Harwood a modificat solicitările pentru a ocoli măsurile de protecție „în clară încălcare a Termenilor de servicii xAI și a legii din SUA,” inclusiv „unele” solicitări pentru imagini „obscène” implicând „asemănarea minorilor.”
Un purtător de cuvânt al biroului procurorului general din Carolina de Sud a declarat pentru Ars că cazul lui Harwood este încă în curs de desfășurare. În mod specific, a fost acuzat de „distribuirea, transportul, expunerea, primirea, vânzarea, cumpărarea, schimbul sau solicitarea de CSAM care a fost ‘prin utilizarea unei platforme de inteligență artificială.’” Purtătorul de cuvânt nu a fost autorizat să verifice dacă Grok a fost platforma utilizată. Cu toate acestea, reclamația xAI a susținut că „în baza informațiilor și a credinței, cel puțin unele dintre imaginile considerate în Acțiunea Penală Harwood au fost generate sau alterate prin utilizarea ilegală a Grok de către Defendent.”
xAI nu a răspuns imediat solicitării Ars de a comenta. În proces, xAI își face cazul că doar utilizatorii ar trebui să fie responsabili pentru CSAM generat de Grok. Dacă instanța ar fi de acord, o astfel de constatare ar putea întări apărarea xAI în acțiunea colectivă potențială care se preconizează, estimată a implica mii de victime. De asemenea, ar putea oferi xAI o unealtă prin care să acționeze împotriva altor utilizatori ori de câte ori o victimă vine cu o plângere. xAI a spus că vă intentat proces lui Harwood pentru încălcarea contractului pentru a evita „costuri legale substanțiale” și „riscurile de responsabilitate considerabile pentru daune” care ar putea fi solicitate dacă oricare dintre victimele sale presupuse ar da în judecată xAI pentru utilizarea dăunătoare a Grok.
Firma lui Musk a argumentat că Grok ar trebui să fie considerat de instanță „un instrument neutru, supus controlului utilizatorului.” „Ca orice instrument AI generativ, fiecare răspuns, fiecare imagine, fiecare generație este rezultatul solicitărilor și direcțiilor utilizatorului,” a susținut xAI. Reclamația a subliniat că termenii de utilizare ai xAI definesc „o linie clară” între utilizările sigure ale Grok și cele dăunătoare, și fiecare utilizator acceptă termenii la înregistrare.
În cazul lui Harwood, utilizatorilor Grok le este interzis să folosească Grok pentru a „dezbrăca sau nudifia persoane reale,” sau altfel să folosească chatbotul pentru a modifica „imaginea sau asemănarea unei persoane reale pentru a le ilustra în contexte intime sau sexuale,” spun termenii xAI. Utilizatorii sunt, de asemenea, interziși să „reprezinte asemănări ale persoanelor într-un mod pornografic” sau să „sexualizeze sau să exploateze copii.” Se mai menționează că orice CSAM descoperit de xAI este raportat la NCMEC.
În reclamația sa, xAI a afirmat că Harwood este singurul responsabil pentru output-urile sale deoarece a „încălcat flagrant” regulile xAI și „a depus eforturi considerabile pentru a ocoli” „măsurile tehnologice de protecție” ale Grok. Harwood a procedat astfel bazându-se pe „solicitări înșelătoare,” a declarat xAI. Și Harwood nu s-a auto-reglementat o dată ce a văzut că poate genera conținut ilegal, a mai susținut xAI. În reclamație, xAI a afirmat că Harwood ar fi trebuit să știe că i se interzicea folosirea Grok după prima dată când a folosit chatbotul pentru a crea conținut ilegal. În mod evident, însă, xAI nu indică faptul că Harwood a primit vreo avertizare că contul său risca penalizări. În schimb, Harwood ar fi „continuat să folosească Grok în perioada relevantă după ce a încălcat Termenii de servicii ai xAI,” a susținut xAI. „Termenii de servicii ai xAI, la care a acceptat, interziceau utilizarea sa după încălcările anterioare.”
xAI speră că tribunalul federal din SUA va decide că Harwood a încălcat termenii xAI și a încălcat contractul său cu xAI. Dar, poate mai important, Musk vrea ca instanța să recunoască o clauză de indemnitate care stabilește că doar utilizatorii—și nu xAI—sunt responsabili pentru CSAM generat de Grok și NCII. Potrivit xAI, atunci când oamenii folosesc Grok, ei sunt responsabili pentru tot conținutul lor, ceea ce xAI a insistat că include atât inputurile, cât și outputurile. Dacă instanța va fi de acord că utilizatorii sunt responsabili pentru output-urile generate de AI, rămâne de văzut. Not