În articolul precedent, „De ce tot mai mulți «mușcă» momeala extremismului?”, scriam despre felul în care oamenii ajung să creadă în explicații simple atunci când lumea devine prea complicată. Extremismul știe să apese exact acolo unde există oboseală, frustrare, singurătate, rușine sau neîncredere. Îți arată un vinovat și construiește o poveste clară. Îți spune cine îți amenință viața, familia, țara, credința sau „normalitatea”, iar inteligența artificială poate da imagini, voci și „dovezi” false suficient de convingătoare cât să aprindă furia înainte ca mintea să apuce să verifice.

Inteligența artificială accelerează distribuirea falsurilor

UNESCO descrie deepfake-urile ca parte a unei „crize a cunoașterii”, o lume în care realitatea și falsul se amestecă atât de bine, încât educația media nu mai poate însemna doar să „detectăm” manipularea. Trebuie să învățăm cum trăim cu incertitudinea produsă de agenții AI.

Altfel spus, problema societăților în care trăim nu mai este că putem vedea un video fals, dar că după prea multe falsuri, începem să nu mai avem încredere nici în imaginile reale.

AI-ul nu a inventat minciuna și nici propaganda sau ura. Substratul nou adus de agenții AI acestor fenomene sociale, este că le poate da o față, o voce și o viteză pe care nu le-am mai avut până acum.

Cu ajutorul agenților AI, orice poate fabrica o imagine care pare ruptă din realitate, o declarație care pare autentică, o voce care sună familiar, un video care pare filmat de cineva „de la fața locului”. Iar într-o societate deja obosită de crize, război, sărăcie, propagandă și neîncredere, falsul nu mai trebuie să fie impecabil. Trebuie doar să atingă emoția potrivită, în momentul potrivit.

• Te-ar putea interesa și: Frica, furia și neîncrederea: emoțiile prin care propaganda ne controlează mințile

Dezbaterile despre AI nu ar trebui să se limiteze doar la frica abstractă de tehnologie sau scenarii SF cu roboți care ne fură lumea, dar din această întrebare foarte simplă: ce se întâmplă cu noi când nu mai știm dacă ceea ce vedem este real?

Pentru secole imaginea a avut autoritate. „Am văzut cu ochii mei” era o formă de dovadă. Dacă exista o fotografie, un video, o înregistrare audio, părea un argument suficient. Acum însă, tocmai aceste forme de „dovadă” devin vulnerabile. Pentru prima data în istoria omenirii un chip poate fi generat, fața unei persoane poate fi sincronizată fals cu o voce. O persoană publică poate părea că spune ceva ce nu a spus niciodată.

Reuters Institute arată că, în conflicte și războaie, AI-ul nu produce doar falsuri sofisticate. Uneori produce meme-uri, videoclipuri stilizate, animații, imagini evidente sau semi-evidente, folosite nu ca să convingă perfect, ci ca să creeze zgomot, emoție, identitate de grup. Manipularea nu vrea întotdeauna să pară jurnalism, uneori vrea doar să te facă să simți că „ai înțeles cine e răul”.

Asta schimbă felul în care funcționează propaganda. În trecut, o minciună avea nevoie de o construcție mai stabilă: o poveste, o instituție care o susține, niște canale clare de distribuire. Acum, o imagine generată poate circula în câteva minute. Un clip poate trece dintr-un grup privat în TikTok, de acolo în Telegram, apoi în comentariile unei rude care „doar întreabă”. Și până verificăm dacă este sau nu adevărat, emoția și-a făcut deja treaba.

„nu mai cred nimic.”

AI-ul este atât de util extremismului. Acest tip de discurs nu are nevoie de adevăr, ci doar de confirmări și de imagini care par să dovedească ce ceea oamenii speriați sunt deja pregătiți să creadă. Dacă cineva crede că refugiații sunt o amenințare, o imagine falsă poate deveni „dovada”. Dacă cineva crede că persoanele LGBTQ+ distrug societatea, un video scos din context sau generat poate deveni argument. Dacă cineva crede că „toți jurnaliștii mint”, orice eroare, orice editare, orice imagine suspectă devine pretext pentru neîncredere.

Aici apare una dintre cele mai periculoase reacții: „nu mai cred nimic.”

La prima vedere, această reacție pare o formă de maturitate. S-ar părea că aceste persoane pretind că nu mai poate fi păcălit sau că nu se lasă manipulate. Totuși, fraza „nu mai cred nimic” nu este întotdeauna gândire critică, ci doar oboseala care s-a transformat în cinism. Iar cinismul nu ne protejează mereu pentru că poate deveni o ușă deschisă pentru teorii conspiraționiste, pentru extremism, pentru lideri care spun: „Nu credeți pe nimeni, credeți-mă pe mine.”

UNESCO avertiza, într-un raport despre AI și memoria Holocaustului, că tehnologiile generative pot distorsiona înțelegerea unor realități istorice prin conținut fals, prin „halucinații” ale sistemelor AI sau prin folosirea intenționată a acestor instrumente de către grupuri care vor să răspândească ură. Riscul nu este doar apariția unor falsuri noi, ci slăbirea memoriei colective și a înțelegerii faptelor istorice.

„adevărul nostru”

Articolul „Știri false, IA: cum să distingem adevărul de fals?” publicat de YEP’S, explică simplu problema. Oamenii se informează tot mai mult singuri, mai ales prin rețele sociale, dar platformele sociale sunt o junglă în care conținutul verificat stă lângă opinii deghizate în fapte, manipulări și imagini generate. Algoritmii tind să ne închidă în „adevărul nostru”, în funcție de interesele și reacțiile noastre.

Pe online, fiecare dintre ajunge să trăiască într-o realitate personalizată. Această realitate nu este complet falsă, ci mai degrabă o realitate fragmentată și un ecou al reacțiilor noastre. Dacă reacționezi la pericol, vei primi tot mai mult conținut care arată pericol. Dacă reacționezi la scandal, vei primi tot mai mult scandal. Dacă reacționezi la ură, algoritmul va înțelege că ura te ține pe ecran.

Ce putem face?

Să devii suspicios față de tot și incapabil să mai ai încredere nu este o soluție. În schimb, am putea dezvolta în noi un reflex de pauză între emoție și reacție. În această pauză ar fi bine să recunoaștem care sunt emoțiile pe care ni le trezește acest conținut, și ce butoane sensibile apasă în noi.

Dacă un video ne provoacă furie, să ne întrebăm: de ce mă înfurie atât de repede? Cine vrea să simt asta? Ce informație lipsește? Unde este sursa originală? Mai scrie cineva credibil despre asta?

Publicația Poynter recomandă câteva reflexe foarte concrete pentru verificarea deepfake-urilor.

Să fim atenți dacă sunetul se potrivește cu mișcarea buzelor, dacă expresiile feței par naturale, dacă există detalii vizuale ciudate, dacă putem găsi sursa inițială a clipului și dacă informația apare în alte locuri credibile. Dar chiar și aceste semne devin mai greu de observat pe măsură ce tehnologia avansează.

De aceea verificarea nu poate rămâne doar o responsabilitatea individuală. Nu fiecare persoană are timp să investigheze un video viral ca un fact-checker. Platformele sociale, presa, instituțiile statului, școala au responsabilitate de a educa, preveni și stopa acest tip de conținut. Dar până când aceste responsabilități sunt luate serios, rămâne un lucru mic pe care îl putem face fiecare: să nu distribuim panica mai departe înainte de a verifica din câteva surse dacă este adevărat sau nu.

Un reflex simplu ar fi acesta. Atunci când o informație te face instantaneu furios, speriat sau dezgustat, nu o distribui imediat. Salveaz-o și apoi caută sursa. Uită-te cine a publicat-o, vezi dacă există un autor real și caută dacă presa credibilă a confirmat această informație.

Acest material face parte din seria editorială realizată în cadrul proiectului „Creșterea rezilienței societale în era dezinformării și a deepfake-urilor generate de AI”, implementat de A.O. Media Cub și susținut financiar de Ambasada Regatului Țărilor de Jos la Chișinău, prin intermediul Centrului de Resurse Juridice din Moldova (CRJM).

Conținutul acestui material reflectă exclusiv punctul de vedere al autorului și nu reprezintă în mod necesar poziția finanțatorilor.