În spațiul virtual au apărut o serie de videoclipuri trucate care prezintă politicieni din județul Mureș în diferite ipostaze haioase: cântă, se strâmbă sau scot tot felul de sunete care stârnesc râsete.
Așa au apărut videoclipuri cu primarul din Târgu Mureș, Soós Zoltán., cu directorul RAR, liberalul Marius Cerghizan , cu primarul UDMR din Corunca, Takács Szabolcs István etc. Aparent nevinovate, create ca mici farse umoristice, aceste videoclipuri fac parte din categoria deepfake și au caracter manipulator. Specialiștii în domeniul online din redacția punctul.ro preconizează creșterea acestui fenomen în perioada următoare, odată cu întețirea campanei electorale.
Sunt deja celebre cazurile de la nivel național când prin astfel de clipuri video deepfake guvernatorul BNR Mugur Isărescu „convingea” publicul să facă investiții financiare pe o platformă inexistentă. Un alt deepfake îl prezenta pe premierul Marcel Ciolacu “promovând” vânzarea de acțiuni la Hidroelectrica.
De asemenea, ministrul energiei Sebastian Burduja a depus o plângere penală după ce o pagină falsă de Facebook denumită „HTPPY”, a postat un videoclip deepfake în care era reprezentat promovând fals o schemă de investiţii inexistente a companiei ENEL.
În cursul acestei luni, cel mai probabil, că va fi adoptată Legea privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake.
Aceasta va prevede inclusiv pedepse cu închisoarea până la 2 ani pentru cei care creează astfel de conţinut de inteligenţă artificială cu consecinţe grave.
„E cea mai spinoasă discuţie a momentului. (…)Acest fenomen este şi în România şi în toată lumea. Încă de anul trecut am demarat strategia României de inteligenţă artificială. Împreună cu colegii din Parlament avem o lege, legea „deepfake”, care vine cu prevederi foarte clare pentru acele persoane sau companii care generează conţinut AI fals”, a afirmat Bogdan Ivan, ministrul digitalizării. Legiuitorii ar vrea ca actul normativ să între în vigoare până la începutul campaniei electorale.
Legea va prevede amenzi pentru cei care produc conţinut deepfake, între 600 lei şi 90.000 lei în situaţia în care o instanţă de judecată din România va constata este vorba de o încălcare foarte gravă a legii, atunci acele persoane care au iniţiat astfel de conţinut pot să ajungă inclusiv la pedepse cu închisoare până la 2 ani.
Autoritățile române au avut discuţii cu reprezentanţii marilor platforme de social media pe care sunt distribuite astfel de clipuri video sau de fotografii şi urmează să fie create filtre pentru a nu mai permite încărcarea în reţea de conţinut care foloseşte inteligenţa artificială şi nu reflectă realitatea.
În cazul în care conţinutul este unul cu caracter umoristic, este obligatoriu, pentru a nu fi amendat, ca pe cel puţin 15 la sută din suprafaţa videoclipului să apară avertismentul că acest conţinut nu este unul real, ci unul creat cu inteligenţă artificială generativă.
Aplicațiile deepfake folosesc tehnologie bazată pe Deep Learning care analizează o serie de fețe și expresii pentru a „învăța” cum să genereze videoclipuri animate
Din păcate, cea mai comună utilizare a tehnologiei deepfake este producerea de conținut condamnabil din punct de vedere moral precum știri false, pornografie, printre altele.
Algoritmii și boții folosiți pentru a produce acest conținut digital au invadat lumea aplicațiilor.
Mai jos puteți vedea o listă a aplicațiilor folosite pentru generarea de conținut deepfake. Nu vă recomandăm însă să le folosiți pentru a crea conținut deepfake.
DeepFaceLab
FakeApp
Toongineer Cartoonizer
ZAO Deepfake
Deepfakes web beta
Wombo
Instagram DeepFake Bot
MyHeritage
Vocodes