În urma unui incident neobișnuit, în care o imagine generată de inteligență artificială cu un aspect realist al Papei Francisc a devenit virală pe platformele de socializare anul trecut, Papa însuși a luat atitudine față de această problemă. Conform rapoartelor Reuters, într-un mesaj cu ocazia celei de-a 58-a Zile Mondiale a Comunicațiilor Sociale, Papa Francisc a subliniat pericolul dezinformării, menționând că aceasta poate lua acum forma „deepfakes” – imagini fals create și distribuite pentru a părea autentice.
Papa a evidențiat că această abilitate de a genera imagini false poate avea consecințe serioase asupra relațiilor noastre cu ceilalți și cu realitatea însăși. A avertizat, de asemenea, împotriva folosirii mesajelor vocale care utilizează vocea unei persoane pentru a transmite mesaje pe care acea persoană nu le-ar spune niciodată. Chiar dacă tehnologia din spatele acestor programe poate avea aplicații utile în anumite domenii, devine dăunătoare atunci când distorsionează relațiile umane și percepția asupra realității.
Într-un exemplu concret din martie 2023, un utilizator de Twitter, cunoscut sub numele de „skyferrori”, a utilizat serviciul de editare foto Midjourney v5 pentru a crea o imagine falsă convingătoare a Papei Francisc. Aceasta a devenit rapid virală, înșelând mulți utilizatori care au crezut că imaginea era autentică. Acest incident a evidențiat pericolele aduse de deepfake-uri în contextul încrederii în informația online.
De la lansarea tehnologiei Stable Diffusion în 2022, îngrijorările cu privire la deepfakes și subminarea încrederii sociale au fost subiecte de discuție frecvente. Problemele legate de calitatea redusă a informațiilor online, hărțuirea online și posibila distorsionare a evidențelor istorice rămân nerezolvate, iar tehnologiile de filigranare sunt încă considerate nesigure. Inițiativele de etichetare a metadatelor nu au fost încă adoptate pe scară largă, lăsând încrederea noastră în ceea ce vedem online dependentă de încrederea noastră în mesageri.
Papa Francisc a avertizat că dezvoltarea sistemelor de inteligență artificială schimbă radical peisajul informațional și comunicativ, afectând aspecte fundamentale ale vieții sociale. El a subliniat că aceste schimbări nu afectează doar specialiștii din domeniu, ci întreaga societate. Rapiditatea cu care inovațiile tehnologice se răspândesc și funcționează poate fi fascinantă, dar în același timp tulburătoare, subliniind nevoia unei abordări echilibrate pentru a gestiona provocările aduse de inteligența artificială într-o societate în continuă schimbare.
