Els vídeos generats per intel·ligències artificials per a la seva publicació en les xarxes socials al llarg dels mesos que portem de 2023, ja han superat en un 130% els generats al llarg de tot el 2022, i molts d’aquests busquen exhibir desinformació sobre polítics, segons conclou un estudi de Zefr Research citat en aquest article de la publicació especialitzada Adweek.
Com a exemple d’aquestes pràctiques, Trishla Ostwal, l’autora de l’article, cita entre d’altres dos vídeos falsos que han circulat àmpliament per les xarxes socials, en un dels quals es veu a Donald Trump afirmant que “Amèrica és tirania i feixisme”, i en l’altre a Joe Biden al·legant que “Epstein no es va suïcidar”. En tots dos casos, l’àudio ha estat falsificat emprant aplicacions d’IA, ja que no és l’original de cap de tots dos personatges, i inserit en un altre metratge.
Aquests vídeos han acumulat més d’11 milions de vistes i més de 2 milions de “m’agrada”, segons Or Levi, director de ciència de dades en Zefr. I més del 90% d’aquests vídeos són monetitzables, cosa que significa que s’estan publicant anuncis vinculats amb ells. Evidentment, això provoca que la imatge de les marques associades al contingut es deteriori, encara que sigui per a una part de la població, cosa que no li interessa a l’anunciant i que, per això, preocupa a les marques i les plataformes, ja que podria redundar en una pèrdua de campanyes i la consegüent disminució dels ingressos per publicitat.
Els recents avanços en matèria d’intel·ligència artificial, juntament amb el fàcil accés a models de conversió de text a veu, com Vall-E de Microsoft, o eines de codi obert com fakeyou.com, han facilitat que els actors malintencionats puguin difondre desinformació a les xarxes socials manipulant vídeos existents.
Al mateix temps, existeix una creixent preocupació entre els anunciants per combatre la desinformació, malgrat que les empreses de xarxes socials inverteixen diners en la moderació del contingut. No obstant això, les actuals eines emprades per evitar la desinformació, com les llistes de bloqueig de paraules clau i les llistes d’inclusió estàtiques, poden ser insuficients per a aquesta finalitat, segons fonts consultades per Adweek.
Zefr també va trobar creadors que utilitzen ChatGPT com a ajuda per crear guions de vídeos de desinformació.
Malgrat disposar de salvaguardes per a la creació de contingut, les eines de conversió de text a imatge com Vall-E han estat utilitzades per retratar polítics com a reptilians o com a part dels illuminati, entre altres invencions.
Aquestes eines incloses en les xarxes socials poden ser ineficaces, de manera que es requereix una anàlisi de contingut que va més enllà, segons declaracions d’Andrew Serby, director comercial de Zefr, a Adweek. Això significa que els anunciants han de buscar en les plataformes en què publiquen eines d’IA que analitzin els continguts del vídeo, i més concretament de l’àudio, i els puguin contrastar i identificar en el cas de les fake news.
És possible detectar, per diversos patrons, quan una veu ha estat generada per IA, que és precisament el que s’ha de buscar en aquests casos.
Zefr és, precisament, una de les empreses que ofereix aquestes eines basades en dades compartides per organitzacions de verificació de dades, però els anunciants entrevistats per a l’article d’Adweek no les estaven utilitzant en aquest moment, segons indiquen des de la revista.
Per evitar el temor que provoquen els vídeos generats mitjançant IA en les marques, empreses d’àudio com iHeartMedia estan desenvolupant noves eines de detecció de contingut falsificat. L’esperança és que això no freni el flux de diners procedents del mercat publicitari en el segment dels pòdcasts, estimat en uns 2.000 milions de dòlars, segons l’Interactive Advertising Bureau. No obstant això, el fet que la majoria dels pòdcasts que es monetitzen estiguin disponibles a través de plataformes com Spotify, a les quals en principi els interessa la veracitat dels continguts i, per tant, la seva moderació, fa que els pòdcasts no siguin l’objectiu primordial d’aquestes mesures de verificació, i sí més els vídeos que es pengen en xarxes socials com ara TikTok o Instagram.
