Propagandiștii chinezi folosesc ChatGPT pentru a scrie postări și comentarii pe site -urile de socializare – și, de asemenea, pentru a crea recenzii de performanță care detaliază că funcționează pentru șefii lor, potrivit cercetătorilor OpenAI.
Utilizarea chatbotului de informații artificiale a companiei pentru a crea documente interne, precum și de către o altă operațiune chineză pentru a crea materiale de marketing care promovează munca sa, vine pe măsură ce China își acumulează eforturile pentru a influența opinia și a efectua supravegherea online.
„Ceea ce vedem din China este o gamă tot mai mare de operațiuni ascunse, folosind o gamă tot mai mare de tactici”, a declarat Ben Nimmo, investigatorul principal al echipei de informații și investigații Openai, la un apel cu reporterii despre cel mai recent raport de amenințare al companiei.
În ultimele trei luni, Openai spune că a perturbat 10 operațiuni folosind instrumentele sale AI în moduri rău intenționate și a interzis conturile legate de acestea. Patru dintre operațiuni au avut loc probabil în China, a spus compania.
Operațiunile legate de China „au vizat multe țări și subiecte diferite, incluzând chiar și un joc de strategie. Unele dintre ele au combinat elemente ale operațiunilor de influență, inginerie socială, supraveghere. Și au lucrat pe mai multe platforme și site-uri web diferite”, a spus Nimmo.
O operațiune chineză, pe care Openai a numit -o „Sneer Review”, a folosit Chatgpt pentru a genera comentarii scurte care au fost postate pe Tiktok, X, Reddit, Facebook și alte site -uri web, în engleză, chineză și urdu. Subiecții au inclus dezmembrarea de către administrația Trump a agenției americane pentru dezvoltare internațională – cu posturi laudând și criticând mișcarea -, precum și criticile unui joc din Taiwan în care jucătorii lucrează pentru a învinge Partidul Comunist Chinez.
În multe cazuri, operațiunea a generat o postare, precum și comentarii care îi răspund, raportul lui Comportament Openai a spus că „a părut conceput pentru a crea o falsă impresie de implicare organică”. Operațiunea a folosit ChatGPT pentru a genera comentarii critice despre joc, apoi pentru a scrie un articol de formă lungă care susține că jocul a primit o reacție pe scară largă.
Actorii din spatele Sner Review au folosit, de asemenea, instrumentele Openai pentru a face lucrări interne, inclusiv crearea „O revizuire a performanței care descrie, în detaliu, pașii făcuți pentru stabilirea și rularea operației”, a spus Openai. „Comportamentele de socializare pe care le -am observat în rețea au reflectat îndeaproape procedurile descrise în această revizuire.”
O altă operațiune pe care Openai s -a legat de China s -a concentrat pe colectarea informațiilor, pozând ca jurnaliști și analiști geopolitici. A folosit ChatGPT pentru a scrie postări și biografii pentru conturi pe X, pentru a traduce e -mailuri și mesaje din chineză în engleză și pentru a analiza datele. Aceasta a inclus „corespondența adresată unui senator american cu privire la nominalizarea unui oficial al administrației”, a spus Openai, dar a adăugat că nu este capabil să confirme în mod independent dacă corespondența a fost trimisă.
„De asemenea, au folosit modelele noastre pentru a genera ceea ce arăta materiale de marketing”, a spus Nimmo. În acest sens, operațiunea a susținut că a desfășurat „campanii false de social media și inginerie socială concepute pentru a recruta surse de informații”, care s -a aliniat activității sale online, a spus OpenAI în raportul său.
În raportul său anterior de amenințare din februarie, Openai a identificat o operațiune de supraveghere legată de China, care a pretins că monitorizează media socială „pentru a alimenta rapoarte în timp real despre proteste din Occident la serviciile de securitate chineze”. Operațiunea a folosit instrumentele OpenAI pentru a depana codul și descrierile de scriere care ar putea fi utilizate în terenurile de vânzări pentru instrumentul de monitorizare a rețelelor de socializare.
În noul său raport publicat miercuri, OpenAI a declarat că a perturbat, de asemenea, operațiuni de influență ascunsă care au originea probabil în Rusia și Iran, o operațiune de spam atribuită unei companii de marketing comercial din Filipine, o înșelătorie de recrutare legată de Cambodgia și o campanie înșelătoare de angajare care poartă marcajele operațiunilor legate de Coreea de Nord.
„Merită să recunoaștem gama pură și varietatea de tactici și platforme pe care le folosesc aceste operațiuni, toate le -au pus la punct”, a spus Nimmo. Cu toate acestea, el a spus că operațiunile au fost în mare parte perturbate în etapele lor incipiente și că nu au ajuns la audiențe mari de oameni reali.
„În general, nu am văzut că aceste operațiuni obțin mai multă implicare din cauza utilizării lor de AI”, a spus Nimmo. „Pentru aceste operațiuni, instrumente mai bune nu înseamnă neapărat rezultate mai bune.”
