Într-o clasă plină de ecou din fosta școală elementară Johnston din Wilkinsburg, șase persoane sunt așezate în jurul unei mese lungi, în căutarea pisicii rea.
Instructorul Samantha Finkelstein folosește acest termen pentru a explica cum funcționează modelele mari de limbaj, cum ar fi ChatGPT. O „pisică rea” este o întrebare sau un fapt din afara bazei de informații a botului de chat. Găsirea lui ajută să arăți ce poate și ce nu poate face modelul.
De exemplu, dacă un model AI a fost antrenat folosind doar imagini cu pisici negre, atunci nu va recunoaște o pisică portocalie mai târziu. Un model construit pe limbaj, nu pe matematică, nu poate crea un buget.
Finkelstein, directorul de inițiative tehnologice publice la organizația nonprofit Forja comunitarăconduce acest curs de alfabetizare și etică AI în trei părți. Cursul face parte dintr-un parteneriat cu Carnegie Mellon condus Forum deschis pentru inteligența artificială.
Din ce în ce mai mulți oameni folosesc instrumente de inteligență artificială la locul de muncă; unii la alegere, alții sub presiune.
Directorul executiv al Community Forge, Mike Skirpan, care are experiență în etica tehnologiei și predă la CMU, a spus că acest program de formare a început după ce a văzut oamenii devenind frustrați sau obținând rezultate proaste cu AI.
Skirpan a fost, de asemenea, îngrijorat de creșterea numărului de companii care oferă să construiască agenți AI personalizați pentru companii și organizații nonprofit.
„Au fost un gunoi, sincer”, a spus Skirpan.
Oamenii care fac munca în fiecare zi pot construi un instrument mult mai bun pentru ei înșiși decât orice companie din afara, a spus Skirpan, trebuie doar să învețe cum.
Skirpan a început să construiască acest curs în trei părți pentru a-i învăța pe oameni cunoașterea inteligenței artificiale, cum să construiți un agent care poate ușura sau automatiza anumite sarcini și cum să evalueze dacă acești agenți sunt utili și fiabili.
Cursul este deschis și gratuit pentru lucrătorii nonprofit și guvernamentali, deoarece Skirpan este îngrijorat de perturbarea politicilor federale și a finanțării.
„Cea mai mare pierdere aici este dacă serviciile umane și sectorul nostru social devin de o calitate mai proastă în următorii 10 ani, deoarece am introdus AI, ceea ce cred că este un risc real”, a spus Skirpan. „Atunci vom pierde cu toții și îi rănim pe cei mai vulnerabili ai noștri.”
Cum să alegeți și să utilizați instrumentul potrivit
Elevii din clasă lucrează în domenii de la educație și arte până la construcții. Unii dintre ei s-au jucat cu instrumente AI, dar nu sunt siguri de cele mai bune modalități de a le folosi.
Evan Varrato urmează cursul pentru că simte responsabilitatea de a înțelege ce instrumente ar putea ajuta misiunea grupului său. El este șeful construcțiilor pentru Rebuilding Together Pittsburgh, care reabilește case pentru persoanele cu venituri mici.
El a spus că chiar și instrumentele utile, dacă nu sunt puse în funcțiune corect, pot provoca daune.
„Dacă mă duc la un proiect și vom folosi un ferăstrău circular, cu siguranță îmi voi lua ceva timp pentru a învăța pe cineva cum să folosească acel instrument înainte de a-i lăsa să iasă în lumea reală să folosească asta”, a spus Varrato.
Finkelstein a ghidat grupul prin pașii creării unui agent AI folosind o platformă de la OFAI numită DARE. Elevii pot încărca un manual de utilizare — cum ar trebui să funcționeze instrumentul — și documente legate de munca lor; poate că este o declarație de misiune sau un document cu informații din care vor ca agentul să le extragă.
În continuare, elevii pot experimenta cu diferite sugestii. Ei pot cere agentului să-i ajute să facă brainstorming sau să pună întrebări, la fel ca un consilier.
Deoarece chatboții populari găsesc modele în limbaj, Finkelstein a spus că modul în care oamenii le vorbesc contează.
„Explicând ce tip de conversație doriți să aveți cu ei, puteți modela modul în care se interacționează cu dvs., ceea ce are un impact drastic asupra calității și relevanței rezultatelor pe care le obțineți”, a spus Finkelstein.
Kristin Kalson, care lucrează în strângerea de fonduri la Crossroads Foundation, a găsit rapid o „pisică rea”. Ea l-a întrebat pe agent cum ar putea ajuta cu munca ei și ia sugerat să încarce toate informațiile despre donatorii fundației.
„Este în antiteză față de ceea ce am sarcina de a face și de a păstra confidențialitatea oamenilor. Și astfel, aceasta este cu siguranță un pic de mlaștină”, a spus Kalson.
Solicitat în continuare, agentul i-a recomandat lui Kalson să nu încarce date brute, pentru a proteja confidențialitatea.
Utilizarea responsabilă a AI este importantă pentru instructorii cursului. O parte din aceasta constă în limitarea utilizării sale la anumite sarcini – nu încrederea lui cu totul.
Folosirea strategică a inteligenței artificiale, a spus Skirpan, poate ajuta la păstrarea autonomiei umane cât mai mult posibil.
