Grupuri influente din Rusia și China au folosit programele OpenAI pentru manipulare

Grupuri influente din Rusia și China au folosit programele OpenAI pentru a încerca să manipuleze opinia publică din alte țări, a declarat joi creatorul ChatGPT, afirmând că a luat măsuri pentru a limita domeniul de aplicare al acestora, potrivit AFP.

Ferma de troliFoto: Vchalup, Dreamstime.com

Grupul a declarat că a identificat cinci operațiuni de acest tip, care au încercat să influențeze conversațiile online și „să influențeze alegerile fără a dezvălui identitatea sau intențiile actorilor” din spatele acestor campanii, potrivit unui mesaj publicat joi pe site-ul său.

OpenAI menționează exemplul unui grup rus care a folosit modelele sale lingvistice – un software încărcat cu date pentru a răspunde la întrebări în limbajul cotidian – pentru a crea mesaje politice în rusă și engleză postate pe rețeaua de socializare Telegram.

Start-up-ul californian menționează, de asemenea, o inițiativă condusă de cetățeni iranieni, care au folosit OpenAI pentru a scrie articole și a le traduce, pentru a le publica pe un site dedicat.

Conținutul produs cu ajutorul programelor OpenAI a acoperit „o gamă largă de subiecte, inclusiv invazia Rusiei în Ucraina, conflictul din Gaza, alegerile din India, politica europeană și americană și criticile aduse de disidenți guvernului chinez”.

În acest stadiu, „aceste operațiuni nu par să fi sporit în mod semnificativ raza de acțiune (a acestor conținuturi) sau audiența lor”, a precizat OpenAI.

Compania a precizat că a „perturbat” aceste campanii, fără a da detalii despre cum a făcut acest lucru.

OpenAI a explicat că anumite protecții și garanții integrate în modelele sale au dus în unele cazuri la refuzul interfețelor de a îndeplini o sarcină care le-a fost solicitată de aceste grupuri.

În februarie, grupul dezvăluise deja că hackeri afiliați guvernelor rus, chinez, iranian și nord-coreean foloseau ChatGPT pentru a identifica vulnerabilități în sistemele informatice, a pregăti operațiuni de phishing sau a dezactiva programe antivirus.

Și în acest caz, OpenAI „întrerupsese” utilizarea inteligenței artificiale (AI) generative de către acești actori paraguvernamentali, cu colaborarea Microsoft Threat Intelligence, o unitate care inventariază amenințările la adresa securității cibernetice a întreprinderilor.

foto: Vchalup, Dreamstime.com