După ce Rusia a invadat Ucraina în 2022, rețelele de socializare au fost invadate de falsuri grosolane, prezentate ca imagini proaspete ale războiului, dar care erau fie falsuri făcute cu Photoshop, fie clipuri etichetate greșit din jocuri video, filme, incidente trecute și știri fără legătură, scrie CNN.
Aceste tipuri de falsuri de modă veche se răspândesc din nou în timpul războiului împotriva Iranului. De data aceasta, li s-a alăturat o formă de înșelăciune care nu era ușor disponibilă în 2022: videoclipuri și imagini statice de înaltă calitate, create personalizat cu instrumente de inteligență artificială ușor de utilizat.
Acum 10 ani, spune Hany Farid, profesor la Universitatea din California, Berkeley, specializat în criminalistică digitală, „ar fi existat unul sau două falsuri despre războiul din Iran; ar fi fost demontate destul de repede. Acum vezi însă sute și sunt cu adevărat realiste”. Farid a adăugat: „Nu este doar realiste, ci prind teren – prind foarte mult teren. Oamenii cred ce văd și amplifică asta”.
„Ceea ce s-a schimbat în ultimul an este că IA generativă a devenit mult mai accesibilă”, a declarat jurnalistul senior de la BBC Verify, Shayan Sardarizadeh, un demontator proeminent al falsurilor legate de război, „și acum este posibil să se creeze videoclipuri și imagini foarte credibile care par să arate un incident de război semnificativ, greu de detectat pentru o persoană neantrenată sau cu ochiul liber”.
Videoclipurile și imaginile false pe care experți precum Sardarizadeh le-au identificat ca fiind create de IA au acumulat zeci de milioane de vizualizări pe platformele de socializare în aproape două săptămâni de la începutul războiului din Iran.
Fake news-urile sunt răspândite chiar de guvernul de la Teheran
Un videoclip fals arată un baraj fictiv de rachete iraniene care se presupune că lovesc Tel Aviv, Israel. Un al doilea videoclip fals înfățișează oameni panicați care fug de un presupus atac iranian asupra unui aeroport din Tel Aviv. Un al treilea videoclip fals pretinde că arată personalul forțelor speciale americane capturat, ținut sub amenințarea armei de către trupele iraniene.
Un alt videoclip fals susține că arată clipuri de la imaginile de pe camerele de securitate ale instalațiilor militare iraniene care sunt aruncate în aer; trei dintre clipuri par să fie realizate de IA, în timp ce unul este real, dar de anul trecut. Încă un videoclip fals prezintă un convoi imaginar de trupe americane la sol, în Iran. Un alt videoclip fals arată ca o filmare cu un avion american doborât, care este defilat prin Teheran.
Între timp, imagini statice false care par create de inteligența artificială pretind că înfățișează o bază militară americană în Irak și Ambasada SUA în Arabia Saudită arzând după atacurile iraniene; liderul suprem iranian Ali Khamenei zăcând mort sub dărâmături; și iranieni jelind civili morți. O publicație legată de guvernul iranian a postat chiar și o imagine falsă din satelit care pretinde că arată daunele aduse unei baze militare americane din Bahrain. Și aceasta este doar o mică mostră a falsurilor legate de Iran aflate în circulație.
Falsuri mai bune, mai puțină moderare
În ciuda eforturilor zilnice de demontare ale unor oameni precum Sardarizadeh, noi falsuri apar mult mai repede decât pot fi demontate. Adesea sunt suficient de realiste încât o persoană obișnuită care derulează prin feed-ul său nu poate observa rapid că sunt false.
Mai multe falsuri care s-au răspândit pe scară largă au fost promovate ca propagandă de conturile de socializare pro-iraniene. Motivația din spatele creării multora dintre falsuri este însă greu de identificat – poate opiniile de pe rețelele sociale și influența și banii la care pot duce uneori, poate doar pentru că oamenii au reușit să le facă cu ușurință.
Trucurile din ce în ce mai sofisticate sunt aruncate într-un mediu dificil pentru adevăr. Polarizarea partizană, fragmentarea mass-media și creșterea algoritmilor de social media înseamnă că mulți americani tind să vadă în principal materiale distribuite de persoane cu aceleași idei. Farid a remarcat, de asemenea, că firmele de social media au renunțat la moderarea agresivă a conținutului de pe platformele lor.
„Conținutul este mai realist, volumul este mai mare, penetrarea este mai profundă – aceasta este noua noastră realitate. Și este cu adevărat dezordonată”, a spus Farid.
Platforma de social media X a anunțat săptămâna trecută că ia măsuri pentru a combate falsurile bazate pe inteligență artificială din timpul războiului. Șeful de produs, Nikita Bier, a postat că, dacă utilizatorii care sunt plătiți de X ca și „creatori” de conținut răspândesc videoclipuri generate de inteligență artificială despre conflicte armate fără a dezvălui că videoclipurile au fost realizate cu inteligență artificială, aceștia vor fi suspendați din programul de plată timp de 90 de zile și apoi suspendați permanent dacă vor comite încălcări suplimentare.
Chiar dacă această politică este aplicată cu strictețe – Farid a spus că este sceptic – marea majoritate a utilizatorilor X nu fac parte din programul de plată pentru creatori. Postările altor utilizatori sunt încă supuse verificării faptelor prin intermediul „notelor comunitare” realizate prin crowdsourcing, dar acest proces are un istoric neuniform. Companiile de social media TikTok și Meta, care dețin Facebook și Instagram, nu au răspuns solicitărilor CNN de a comenta cu privire la răspândirea informațiilor false legate de război.
Și Sardarizadeh a observat timp de luni de zile că propriul chatbot cu inteligență artificială al lui X, Grok, a agravat în mod activ problema în unele cazuri – spunând în mod eronat utilizatorilor care doresc să verifice faptele că numeroase imagini și videoclipuri create de inteligență artificială, inclusiv unele care înfățișează războiul din Iran, sunt reale.
Cum să eviți să fii păcălit
Ca să fim corecți, este greu în zilele noastre să discerni realul de fals. Farid a spus că îmbunătățirea rapidă a calității creațiilor cu inteligență artificială înseamnă că sfaturile de acum câteva luni despre cum să identifici falsurile legate de inteligența artificială nu mai sunt utile astăzi. De exemplu, era util să verifici dacă o persoană dintr-o imagine avea degete în plus sau membre deplasate greșit; oamenii reprezentați în conținutul actual despre inteligență artificială tind să nu mai aibă astfel de erori comice.
Farid a spus că cea mai bună modalitate de a rămâne informat cu exactitate este să alegi să obții știri de la publicații jurnalistice credibile, în loc să parcurgi postări de pe „conturi aleatorii” de pe rețelele de socializare. „În momente de conflict global”, a spus el, „acesta nu este un loc unde să obții informații”.
Pentru cei dintre noi care nu pot evita derularea frecventă, este înțelept să ne grăbim și să căutăm online chiar și pentru câteva secunde înainte de a crede sau a distribui un videoclip sau o imagine senzațională din timpul războiului.
Pare ceva ciudat în legătură cu asta – sunet nesincronizat cu videoclipul, caracteristici vizuale care nu corespund cu lumea reală? Inteligența artificială devine din ce în ce mai bună, dar este încă imperfectă. Și unele creații ale inteligenței artificiale încă au filigrane care identifică software-ul care le-a creat.
A abordat vreun sprecialist cunoscut precum Sardarizadeh, o instituție media care verifică faptele sau un expert în domeniu veridicitatea videoclipului sau a imaginii? Dacă este falsă, un profesionist a subliniat adesea acest lucru înainte ca video-ul să ajungă în feed-ul dvs.
Există persoane care exprimă scepticism în comentariile la o postare sau în notele comunitare ale lui X? Utilizatorii obișnuiți ne pot înșela, dar pot pune și întrebări bune.
Și ce spun instrumentele gratuite de detectare a inteligenței artificiale? Sunt departe de a fi perfecte, dar și ele pot ajuta uneori.
Sardarizadeh a spus că ar trebui să ne „antrenăm ochii” să recunoască cât mai bine posibil materialele generate de inteligența artificială. Dar a mai spus: „Devine extrem de dificil să detectăm conținutul generat de inteligența artificială, iar traiectoria pare să se îndrepte în direcția în care acesta va deveni și mai dificil în curând”.
