Actualizat 9 iulie 2026 la 5:27 PM EDT
Noii reclamanți într-un proces colectiv împotriva companiei de inteligență artificială a lui Elon Musk, SpaceXAI, susțin că modelele companiei de generare de imagini au fost folosite pentru a crea materiale de abuz sexual asupra copiilor și că compania nu a reușit să partajeze în mod adecvat autorităților informații despre un presupus făptuitor.
Doi reclamanți, unul în Wyoming și celălalt în Wisconsin, s-au alăturat procesului intentat de trei adolescenți din Tennessee la începutul acestui an, potrivit unei plângeri modificate depuse marți. Toți reclamanții sunt numiți Jane Does. Procesul a fost, de asemenea, extins pentru a include Stability AI, compania din spatele generatorului de imagini Stable Diffusion, ca inculpat.
Procesul susține că făptuitorii, inclusiv prietenul unui reclamant și tatăl vitreg al altui reclamant, au folosit modelele AI ale companiilor pentru a modifica fotografiile făcute când reclamanții erau minori pentru a realiza materiale pentru abuz sexual asupra copiilor (CSAM). Cei cinci reclamanți acuză firmele că produc CSAM, beneficiază de afaceri de trafic sexual, neglijență, design defectuos al produsului și creează o pacoste publică.
„Perioadă publică înseamnă că acest lucru nu este doar ceva care este problematic pentru clienții noștri… este ceva care este un flagel pentru societate”, a spus Annika Martin, avocatul tuturor celor cinci reclamanți. „Vrem să punem aceste balustrade, astfel încât să nu provocăm acest rău unei întregi generații de copii”.
Reclamanții le cer companiilor AI instalați balustrade mai eficiente pentru a preveni crearea de imagini exploatatoare și abuzive, precum și pentru a solicita compensații bănești.
Cazul lui Jane Doe 4
În timp ce SpaceXAI, la fel ca și alte companii de internet, este obligată prin lege să raporteze suspectele de exploatare sexuală a copiilor, inclusiv CSAM, către Centrul Național pentru Copii Dispăruți și Exploatați (NCMEC), non-profit, procesul susține că compania nu a făcut acest lucru în mod adecvat.
SpaceXAI a fost cunoscut anterior ca xAI. Compania și-a schimbat brandul luna aceasta după fuziunea cu SpaceX de la Musk la începutul acestui an.
Potrivit plângerii, tatăl vitreg al lui Jane Doe 4, o femeie în vârstă de 20 de ani din Wyoming, a folosit robotul de chat al SpaceXAI, Grok, pentru a genera aproximativ 7.000 de imagini și videoclipuri explicite din punct de vedere sexual dintr-o singură fotografie făcută când Jane Doe 4 avea aproximativ 11 ani. Imaginile generate de AI includeau reprezentări ale ei nud, făcându-și actul sexual pe bărbați. Unele imagini au inclus și subtitrări explicite.
SpaceXAI a trimis un singur sfat cu privire la Jane Doe 4 către NCMEC în februarie, când tatăl vitreg i-a cerut modelului să genereze o imagine care o înfățișează pe fata violată de mai mulți bărbați, potrivit plângerii. Compania nu a inclus niciuna dintre imaginile abuzive în raportul său și, de asemenea, nu a reușit să partajeze adresa IP a presupusului făptuitor cu NCMEC și forțele de ordine, chiar și după ce oficialii au solicitat-o de mai multe ori, potrivit plângerii.
Mulți furnizori de servicii electronice depun un volum mare de rapoarte de activitate suspectă către NCMEC, dar nu includ „informații suficiente sau acționabile”, deoarece legea nu impune acest lucru, scria centrul într-un raport din martie.
Când oamenii legii l-au găsit în cele din urmă și l-au investigat pe tatăl vitreg, au descoperit că el, la fel ca ceilalți făptuitori menționați în proces, a tranzacționat imaginile sexual explicite cu alții online, potrivit plângerii. La două zile după ce forțele de ordine i-au percheziționat dispozitivele digitale și l-au acuzat de infracțiuni de exploatare a copiilor, el s-a sinucis.
„Jane Doe 4 a intrat într-o perioadă de criză personală extremă”, se spune în plângere. „Ea a trebuit să se confrunte cu trauma propriei exploatări sexuale, în timp ce și-a ajutat mama să traverseze pierderea tatălui ei vitreg… Familia ei a fost sfâșiată, iar viața ei a devenit un coșmar”.
Oamenii legii i-au spus lui Jane Doe 4 că tatăl ei vitreg l-a folosit pe Grok pentru că a fost mai receptiv la solicitările lui decât alte modele AI, potrivit lui Martin, avocatul care îi reprezintă pe reclamanți în procesul de acțiune colectivă.
NCMEC a refuzat să comenteze cazul și a înaintat NPR organelor de ordine. Divizia de Investigații Criminale din Wyoming, al cărei grup operativ privind crimele pe internet împotriva copiilor a fost identificat ca fiind una dintre agențiile de aplicare a legii implicate în cazul lui Jane Doe 4 în plângere, nu a răspuns la o solicitare de comentarii. SpaceXAI nu a răspuns la o solicitare de comentarii.
Aplicațiile care pot modifica fotografiile pentru a face imagini intime și pornografie există de ani de zile în umbra internetului. Dar crearea de imagini intime neconsensuale a devenit mult mai populară în 2025, când marile companii de inteligență artificială, inclusiv Google, OpenAI și xAI, și-au actualizat instrumentele de generare a imaginilor într-un mod care a permis utilizatorilor să dezvolte oamenii în bikini.
De la sfârșitul anului 2025 până la începutul acestui an, oamenii au folosit instrumentele xAI pentru a realiza un număr mare de fotografii modificate care arată femei și copii dezbrăcați în bikini sau chiar mai puțin. Drept urmare, țări precum Indonezia, Malaezia și Marea Britanie au lansat investigații și au impus interdicții temporare asupra xAI. În prezent, conform testării NPR, chatboții creați de Google și OpenAI refuză să răspundă la solicitarea „pune-o în bikini”. O versiune gratuită de Grok a arătat o eroare la încărcarea imaginilor după ce a primit același prompt.
Stability AI este un nou inculpat
Stability AI, care face instrumentul de generare de imagini Stable Diffusion, a fost adăugat ca nou pârât în legătură cu pretențiile depuse de cei trei reclamanți inițiali adolescenți din Tennessee. Plângerea a fost actualizată pentru a adăuga că „Aplicația de pe telefonul făptuitorului folosită pentru a crea AI CSAM al reclamanților s-a bazat pe instrumentele de producere a imaginilor Stability AI”.
Spre deosebire de modelele proprietare, cum ar fi cele realizate de SpaceXAI, OpenAI și Anthropic, modelele Stability AI sunt deschise, ceea ce înseamnă că este mult mai ușor pentru utilizatori să elimine restricțiile pe care producătorii de modele le-au impus. În plus, producătorul de modele, în general, nu are o perspectivă asupra interogărilor utilizatorilor. Cu toate acestea, procesul susține că Stability AI ar fi putut restricționa capacitatea modelelor sale de a genera CSAM, dar a ales să nu facă în versiunile sale mai recente.
The Verge a raportat în noiembrie 2022 că Stability AI a spus că a filtrat conținutul care nu este sigur pentru muncă (NSFW) din datele sale de antrenament pentru a restricționa capacitatea modelului Stable Diffusion Version 2 de a genera CSAM. Această decizie a atras reacții din partea utilizatorilor, inclusiv a unuia care a condamnat actualizarea drept „cenzură”, a raportat The Verge.
O versiune mai recentă a modelului Stability AI a fost frecvent utilizată pentru a genera conținut NSFW și a generat o proporție mai mare de astfel de conținut în comparație cu rezultatele din Stable Diffusion Versiunea 2, conform unei lucrări de cercetare a unor cercetători de la Universitatea din Wisconsin-Madison, Massachusetts Institute of Technology și alte instituții, care nu a fost încă revizuită de colegi. Stable Diffusion Versiunea 2 a fost, de asemenea, mult mai puțin populară decât modelele Stability AI care au apărut înainte și după ea, au descoperit cercetătorii.
„Când și-au dat seama că nimeni nu a vrut să-și folosească modelul când au pus acele balustrade la locul lor, au rostogolit acele balustrade imediat înapoi, astfel încât toată lumea să vrea să-și folosească modelul din nou”, a spus Martin. „Știau exact cum să controleze acest comportament și au ales să nu facă profit”.
„Orice sugestie că siguranța nu este o prioritate de vârf pentru noi este categoric greșită. Ne luăm în serios responsabilitățile etice”, a declarat Stability AI într-o declarație pentru NPR. Compania a declarat că a „implementat garanții solide” și colaborează în mod regulat cu grupuri ale societății civile și alte companii tehnologice pentru a le consolida.
