Într-un vot aproape unanim, Senatul statului Pennsylvania a adoptat săptămâna aceasta o măsură care urmărește să adauge măsuri de protecție pentru copiii care interacționează cu chatbot-uri de inteligență artificială.
„În timp ce Pittsburgh continuă să impulsioneze inovația în spațiul inteligenței artificiale, este important ca legislatorii din Harrisburg să se asigure că chatbot-urile AI accesibile minorilor sunt sigure, precise și reglementate”, a declarat liderul democrat al Senatului, Jay Costa, denumind proiectul de lege „un pas semnificativ în direcția corectă”.
„Dar mai sunt multe de făcut pentru a oferi un peisaj internet sigur pentru utilizatorii tineri”, a adăugat el. „Aștept cu nerăbdare să continui această muncă dificilă și necesară, astfel încât Pennsylvania să poată continua să conducă națiunea în progresele și garanțiile AI.”
Proiectul de lege se aplică chatbot-urilor, pe care îi definește ca „algoritmi generativi de AI sau de recunoaștere emoțională, menționați să simuleze o relație umană susținută sau asemănătoare unui om cu un utilizator”. Le cere companiilor de tehnologie să interzică tovarășilor de chat AI să genereze limbaj explicit sexual, conținut despre autovătămare sau violență atunci când trimit mesaje cu copii sau adolescenți.
Printre alte reglementări, legea ar cere platformelor să direcționeze utilizatorii către resurse din lumea reală despre prevenirea sinuciderii dacă un tânăr menționează că se rănește.
„Când o persoană tânără începe să se bazeze pe o mașină pentru sprijin emoțional, fără garanții adecvate, consecințele pot fi devastatoare”, a declarat senatorul Tracy Pennycuick (R-Montgomery/Berks) într-un discurs la sol. Unele familii de copii care s-au sinucis au spus că dependența excesivă de tehnologia AI ar fi putut contribui la decesele lor – chiar și a ajutat la redactarea notelor de sinucidere.
Pennycuick, care prezidează comisia Senatului pentru Comunicații și Tehnologie, a declarat că legislația protejează utilizatorii minori fără a „înăbuși inovația” în industria AI. Cercetătorii au găsit deja dovezi că AI poate influența negativ utilizatorii tineri atunci când nu există reglementări, a adăugat ea. Aproape două treimi dintre adolescenții americani spun că au folosit platforme de chat AI, potrivit Centrului de Cercetare Pew.
Conform limbajului actual al proiectului de lege, chatboții AI ar trebui să le reamintească tinerilor utilizatori că nu interacționează cu un om – și că ar trebui să ia o pauză de la chat – cel puțin o dată la trei ore.
Dar proiectul de lege nu necesită verificarea vârstei online pentru platformele de chat AI. Pur și simplu spune că toate reglementările ar fi necesare „pentru un utilizator despre care operatorul știe sau ar fi trebuit să-l știe că este minor”.
Senatorul de stat co-sponsor Nick Miller (D-Lehigh/Northampton) spune că proiectul de lege încă atinge un echilibru bun.
„Vrem să fim lideri în tehnologiile emergente, dar vrem, de asemenea, să ne protejăm comunitățile și să punem balustrade de bun simț pe această tehnologie inovatoare”, a spus Miller.
Legea ar acorda autoritate procurorului general al statului să amendeze companiile de tehnologie cu 10.000 de dolari pentru fiecare încălcare. Într-o declarație după adoptarea proiectului de lege, generalul general de stat Dave Sunday a declarat că speră să lucreze cu legislativul pentru alte garanții.
„Am văzut ca chatbot online joacă roluri în numeroase tragedii din întreaga țară”, se spune în declarație. „Trebuie să facem tot ce putem pentru a ține copiii și rezidenții vulnerabili departe de aceste interacțiuni toxice online.”
Proiectul de lege a fost adoptat cu sprijinul fiecărui senator, cu excepția republicanului Doug Mastriano, care nu a returnat miercuri după-amiază o cerere de comentarii despre motivul pentru care a votat nu.
Aprobarea Senatului vine la doar o lună după ce guvernatorul Josh Shapiro a cerut anumite reforme AI în timpul discursului său anual privind bugetul. Proiectul de lege așteaptă acum examinarea în Comisia pentru Comunicații și Tehnologie a Camerei, condusă de democratul Joe Cireși, din sud-estul Pennsylvania, și republicanul Jason Ortitay, din Cecil Township.
