O imagine în care apar doi copii, unul dintre ei numit „Mihăiță”, s-a răspândit în timp record pe rețelele sociale. Fotografia, creată cu Inteligența Artificială, este însoțită de o poveste falsă al cărei scop este să adune cât mai multe reacții de la utilizatorii de Facebook. Fenomenul a cunoscut o amploare uriașă în ultimele luni.
Din categoria imaginilor false create cu IA „nimeni nu apreciază”, vineri, o imagine a făcut înconjurul Facebookului. Majoritatea paginilor care răspândesc mesaje false și imagini realizate cu ajutorul Inteligenției Artificiale au rostogolit postarea, care ulterior a fost preluată de oameni de bună credință. Mii de oameni au distribuit-o, emoționați de „curajul și demnitatea unui copil sărac din București”.
Doar pe o singură pagină de Facebook, „Viața de românaș”, postarea are 15.000 de distriburi si 35.000 de like-uri. Pagina a fost creată în ianuarie 2024 și inițial se numea „Descoperă sănătatea”, apoi s-a numit pe rând „E F E M E R”, „Pescuit și Vânătoare” și „Inimă deschisă”, până să se numească din decembrie anul trecut „Viață de românaș”.
Lui „Mihăiță”, băiat creat de IA, i s-a inventat o poveste emoționantă, cel mai probabil realizată cu ajutorul ChatGPT. Imaginea are mai multe elemente care arată că nu este una reală, de la culori, la semnele de circulație și îmbrăcămintea copilului.
Despre Mihăiță, postarea ne spune că „îl găsiți de regulă la semaforul de la intersecția Bulevardului Carol I, dar povestea lui este mult mai grea decât ați crede”.
Urmează o poveste emoționantă despre cum Mihăiță și fratele său Ionuț spală geamurile mașinilor, având alți doi frați, toți crescuți de tată, după ce mama le-a murit. Povestea are toate ingredientele pentru a stârni emoția, de la notele bune de la școală pe care le au cei doi frați, la fapta de bine a interlocutorului..
Experții spun că acestea urmăresc crearea sau schimbarea unor percepții la nivel social. De exemplu, paginile de Facebook care promovează fotografii din anii comunismului cu mesaje de genul ”pe vremuri se mergea la munte cu Dacia și atât”, sau ”ce frumoasă era moda pe vremuri”, arătând fotografii cu femei din anii 60-70, fără operații estetice, vor să genereze nostalgia față de trecut și senzația că prezentul este mult prea greu de suportat.
La fel, campania care se defășoară acum agresiv pe Facebook, cu fotografii generate cu Inteligența Artificială, pe ideea ”am făcut acest lucru și nimeni nu apreciază”, este menită să îi facă pe oameni să simtă că sunt nefericiți dar nu sunt singurii nefericiți într-o lume care nu-i apreciază.
Ce se urmăreşte prin crearea unor pagini de Facebook cu imagini false
Doi cercetători americani au publicat, anul trecut, un studiu referitor la aceste pagini de facebook, care distribuiau mesaje cu conţinut creat de inteligenţa artificială în Statele Unite ale Americii.
- „Am analizat 120 de pagini de Facebook care au postat cel puțin 50 de imagini generate cu AI fiecare, clasificându-le în trei categorii: spam, escrocherii și „alți creatori”. Unele dintre aceste pagini formau clustere coordonate administrate de aceiași administratori.
- Aceste imagini au generat colectiv sute de milioane de interacțiuni. Unul dintre aceste postări, care includea o imagine generată cu AI, a fost în top 20 cele mai vizualizate conținuturi pe Facebook în trimestrul al treilea din 2023, cu 40 de milioane de vizualizări.
- Paginile de spam au folosit tactici de clickbait și au încercat să direcționeze utilizatorii către ferme de conținut externe și domenii de calitate scăzută.
- Paginile de escrocherii au încercat să vândă produse inexistente sau să determine utilizatorii să dezvăluie informații personale. Unele dintre aceste pagini postau imagini generate cu AI pe pagini furate.
- Imaginile generate cu AI apar în News Feed-ul utilizatorilor de Facebook, inclusiv celor care nu urmăresc paginile respective.
- Se suspectează că aceste imagini apar în feed deoarece algoritmul de clasificare a News Feed-ului promovează conținutul care este probabil să genereze angajament ridicat.
- Comentariile la imaginile generate cu AI sugerează că mulți utilizatori nu sunt conștienți de originea sintetică a acestora. Cu toate acestea, un subgrup de utilizatori postează comentarii sau infografice pentru a-i avertiza pe ceilalți utilizatori.
- Faptul că utilizatorii sunt induși în eroare subliniază importanța etichetării clare și a măsurilor suplimentare de transparență pentru astfel de conținuturi.
- Unele dintre paginile de Facebook analizate au utilizat și practici înșelătoare cunoscute, cum ar fi furtul sau preluarea conturilor, și au prezentat creșteri suspecte ale numărului de urmăritori”, se arată în concluziile-cheie ale cercetării realizate de Renee DiResta şi Josh A.Goldstein.
De asemenea, se mai precizează că cercetătorii și factorii de decizie politică se tem că aceste tehnologii ar putea fi folosite pentru a injecta informații false în discursul politic.
Sursa: Antena 3 CNN
