O organizație nonprofit pentru siguranța copiilor, Fairplay, îndeamnă donatorii de cadouri să evite să cumpere jucării AI pentru copii în acest sezon de sărbători, potrivit unui consultativ emisă joi.
Fairplay, împreună cu alte grupuri de susținere a copiilor și a consumatorilor, spun că aceste jucării – jucării precum plușuri, păpuși, figurine de acțiune și roboți pentru copii încorporați cu chatbot și alte tehnologii de inteligență artificială – pot fi periculoase.
Conceput pentru a imita comportamentele umane și pentru a interacționa cu copiii ca și cum ar fi prieteni, jucăriile oferă noutate într-un moment în care AI începe să se infiltreze în multe colțuri ale vieții oamenilor.
Avizul Fairplay, intitulat „Jucăriile AI NU sunt sigure pentru copii”, spune că aceste jucării prădează încrederea copiilor și perturbă relațiile umane, printre alte daune. Avizul a fost susținut de peste 150 de experți și grupuri, inclusiv profesorul și autoarea MIT Sherry Turkle, pediatrul și cercetătorul Jenny Radesky, Social Media Victims Law Center și International Play Association din SUA.
„Este ridicol să ne așteptăm ca copiii mici să evite potențialele vătămări aici”, a declarat Rachel Franz, director de program Fairplay, într-o declarație pentru NPR. „Copiii mici sunt în special susceptibili la potențialele daune ale acestor jucării, cum ar fi invadarea confidențialității lor, colectarea de date, generarea de încredere și prietenie false și înlocuirea a ceea ce au nevoie pentru a prospera, cum ar fi interacțiunile de la om la om și timpul pentru a se juca cu toate simțurile lor. Acestea pot avea un impact pe termen lung și scurt asupra dezvoltării.”
Alții împărtășesc preocupări
Avizul urmează avertismente recente similare din partea Grupului de cercetare de interes public (PIRG). Cea de-a 40-a ediție anuală „Trouble in Toyland” organizată de organizația nonprofit pentru drepturile consumatorilor raport spune că unele jucării cu inteligență artificială permit vorbirea în profunzime despre subiecte sexuale explicite, au puține controale parentale și colectează o mulțime de date despre proprietarii minori.
„Toți își adună vocile copilului tău, potențial. Își adună numele, datele de naștere. Tot felul de informații – placerile, displacele, jucăriile preferate, prietenii preferați”, a spus Teresa Murray, co-autor al raportului PIRG și director al programului său de supraveghere a consumatorilor, într-un interviu cu NPR. „Pentru că sunt conectați la internet, deci orice este disponibil, cine știe despre ce aceste jucării ar putea începe să vorbească cu copiii tăi cu prietenii lor sau cu părinții prietenilor lor sau cu cartierul tău? Adică, este terifiant”.
Industria jucăriilor și jucătorii AI evidențiază siguranța și confidențialitatea
Industria jucăriilor și companiile de inteligență artificială răspund acestor temeri evidențiind concentrarea lor pe siguranță și confidențialitate.
OpenAI a declarat că a suspendat producătorul ursulețului de pluș alimentat de inteligență artificială Kumma la începutul acestei săptămâni, după ce a raportat PIRG jucăria împărtășea sfaturi discutabile minorilor, cum ar fi furnizarea de detalii despre cum să găsești și să aprinzi chibriturile. Când a fost solicitat de cercetători, a vorbit, de asemenea, în profunzime despre chestiuni sexuale. „Am suspendat acest dezvoltator (producătorul de jucării FoloToy din Singapore) pentru încălcarea politicilor noastre”, a declarat purtătorul de cuvânt al OpenAI, Gaby Raila, într-un e-mail către NPR. „Politicile noastre de utilizare interzic orice utilizare a serviciilor noastre pentru a exploata, pune în pericol sau sexualiza pe oricine sub 18 ani. Aceste reguli se aplică fiecărui dezvoltator care utilizează API-ul nostru și le monitorizăm și le aplicăm pentru a ne asigura că serviciile noastre nu sunt folosite pentru a dăuna minorilor.”
Tehnologiile companiei sunt, de asemenea, încorporate în alte jucării AI, inclusiv animalul de companie robot AI Loona, și a intrat într-un parteneriat strategic cu Mattel la începutul acestui an „pentru a sprijini produsele și experiențele bazate pe AI bazate pe mărcile Mattel”. Niciun produs nu a fost încă anunțat. Dar compania a spus că setul inițial de produse și experiențe Mattel se va concentra pe familii și pe clienții mai în vârstă, nu pe utilizatorii sub 13 ani.
Fairplay a evidențiat mai multe jucării AI pentru a demonstra riscurile potențiale ale colectării de date și impactul asupra înțelegerii încrederii de către un copil. Printre ei se numără Mikoun robot drăguț din plastic care vine cu jocuri educaționale și sloganul „Construit pentru a fi noul tău cel mai bun prieten”. Loona Petbotun mic robot însoțitor din plastic care se mișcă pe roți și are un ecran și o ureche asemănătoare și Gabboun robot de pluș în formă de cub, cu ochi mari în stil anime. Nu are ecran, dar poate fi conectat la wifi și poate face chat vocal. NPR a contactat producătorii acestor produse pentru comentarii.
„Siguranța copiilor este prioritatea noastră principală”, a declarat Curio, compania din spatele Gabbo și a altor jucării AI, într-o declarație pentru NPR. „Balustradele noastre sunt proiectate meticulos pentru a proteja copiii și îi încurajăm pe părinți să monitorizeze conversațiile, să urmărească statisticile și să aleagă comenzile care funcționează cel mai bine pentru familia lor în aplicația Curio: Jucării interactive.”
„Recunoașterea facială pe Miko 3 este în întregime opțională și există doar pentru a ajuta familiile să se bucure de o experiență mai personalizată și mai interactivă”, a declarat Ritvik Sharma, vicepreședinte senior la Miko.ai, într-un e-mail către NPR. „Important, toate datele vizuale sunt procesate local pe dispozitiv. Nu sunt niciodată trimise în cloud sau partajate extern. Pentru a oferi familiilor mai multă încredere și control, fiecare robot Miko include un obturator fizic al camerei care le permite părinților să blocheze complet camera oricând doresc.”
Într-un e-mail către NPR, Asociația Jucăriilor, care reprezintă producătorii de jucării, a spus că jucăriile vândute de producători și comercianți responsabili trebuie să respecte peste 100 de standarde și teste federale stricte de siguranță, inclusiv Legea privind protecția confidențialității online a copiilor, care guvernează confidențialitatea copiilor și securitatea datelor online și este supravegheată de Comisia Federală pentru Comerț. „Asociația de jucării îndeamnă părinții și îngrijitorii să cumpere numai de la producători de jucării, mărci și comercianți de renume care acordă prioritate siguranței copiilor mai presus de orice”, se arată în declarație, adăugând că oferă sfaturi de siguranță pentru AI și alte produse conectate pentru a informa mai bine deciziile de cumpărare ale oamenilor.
