Guvernatorul Josh Shapiro a dat în judecată un producător de chatbot de inteligență artificială, declarând că chatboții săi se prezintă ilegal ca medici și îi înșală pe utilizatorii sistemului, făcându-i să creadă că primesc sfaturi medicale de la un profesionist autorizat.
Procesul, depus vineri, cere Curții Commonwealth la nivel național să ordone Character Technologies Inc., compania din spatele Character.AI, să-și oprească chatboții „de a se implica în practica ilegală a medicinei și chirurgiei”.
Procesul a spus că un anchetator de la agenția de stat că profesioniștii autorizați și-a creat un cont pe Character.AI, a căutat cuvântul „psihiatrie” și a găsit un număr mare de personaje, inclusiv unul descris drept „medic în psihiatrie”.
Acest personaj s-a considerat capabil să-l evalueze pe anchetator „ca un medic” care are licență în Pennsylvania, se arată în proces.
„Pennsylvanienii merită să știe cu cine – sau cu ce – interacționează online, mai ales când vine vorba de sănătatea lor”, a spus Shapiro într-un comunicat. „Nu vom permite companiilor să implementeze instrumente AI care să inducă în eroare oamenii să creadă că primesc sfaturi de la un profesionist medical autorizat.”
Un purtător de cuvânt al Character.AI a refuzat să comenteze litigiul, dar într-o declarație trimisă prin e-mail a spus: „Cea mai mare prioritate a noastră este siguranța și bunăstarea utilizatorilor noștri.
„Personajele create de utilizatori pe site-ul nostru sunt fictive și sunt destinate divertismentului și jocurilor de rol”, a continuat declarația. „Am luat măsuri serioase pentru a clarifica acest lucru, inclusiv declinări proeminente în fiecare chat pentru a le reamintim utilizatorilor că un Personaj nu este o persoană reală și că tot ceea ce spune un Personaj ar trebui să fie tratat ca ficțiune. De asemenea, adăugăm declinări robuste care arată clar că utilizatorii nu ar trebui să se bazeze pe Personaje pentru orice tip de sfat profesional.”
Aproximativ o treime dintre adulți au apelat la chatbots AI pentru informații despre sănătate, conform unui sondaj KFF. Dar cercetătorii „încă învață ca domeniu care vor fi efectele conversației cu acești roboți”, a spus dr. John Torous, psihiatru și președinte al Asociației Americane de Psihiatrie, recent înființat Council on Digital Health, Inovation and Technology. „Am văzut la capătul extrem că acești roboți pot fi asociați cu decese prin sinucidere.”
„Pentru mulți oameni, nu știm ce se întâmplă” atunci când solicită unui chatbot îndrumări despre o problemă de sănătate mintală sau fizică, a spus Torous. „Este să ofere sfaturi corecte? Este să ofere sfaturi incorecte? Este să le spui oamenilor să oprească tratamentul?”
Character.AI s-a confruntat cu mai multe procese pentru siguranța copiilor. În ianuarie, Google și Character Technologies au convenit să soluționeze un proces din partea unei mame din Florida care a susținut că un chatbot și-a împins fiul adolescent să se sinucidă. Toamna trecută, Character.AI le-a interzis minorilor să-și folosească chatbot-urile pe fondul preocupărilor tot mai mari cu privire la efectele conversațiilor cu inteligența artificială asupra copiilor.
Oficialii au spus că procesul din Pennsylvania este „primul de acest gen” care încearcă să impună limite AI, argumentând că a încălcat regulile de licență profesională.
Pe fondul directivei administrației Trump de a „elimina birocrația și reglementările oneroase„În jurul dezvoltării AI și al absenței consensului Congresului, statele și-au asumat în mare măsură să creeze linii directoare privind siguranța copiilor și transparența tehnologiei, a declarat Ashley London, profesor asociat de drept la Kline School of Law a Universității Duquesne.
Procesele intentate în alte state s-au concentrat pe încălcările de protecție a consumatorilor posibile de AI. O a depus recent proces Kentucky susține că Character.AI expune copiii la comportament sexual, abuz asupra copiilor și autovătămare, încălcând Legea Kentucky privind protecția consumatorilor și alte legi.
Adunarea Generală din Pennsylvania și alte legislaturi de stat au încercat, de asemenea, să reglementeze companiile AI și chatboții (deși multe dintre eforturile din Pennsylvania sunt încă în comitet).
„AI, desigur, poate fi de mare ajutor”, a spus London. Dar fără balustrade, „sunteți cu adevărat la cheremul companiei și al dezvoltatorilor, al căror scop este să facă bani pentru acționari, punct.”
Deși site-ul termenii serviciului Spuneți că Character.AI nu poate fi considerat responsabil pentru niciunul dintre conținutul – exact sau nu – produs de chat-urile generate de AI, probabil că va rămâne la latitudinea Curții Commonwealth să stabilească dacă acest lucru are vreo importanță, a adăugat ea: „Vom vedea o mulțime de acțiuni legale interesante care pot fi de fapt contradictorii.”
