Deu estudiants de la UdG han identificat quines eines i aplicacions són més efectives per detectar ‘fake news’ i vídeos manipulats. Tots ells cursen graus a la facultat de Ciències Econòmiques i Empresarials i durant mig any han analitzat amb detall fins a 21 programaris basats en la intel·ligència artificial (IA).
De cadascun n’han fet una autèntica radiografia, per veure si detectaven notícies falses de l’àmbit econòmic o bé vídeos hipertrucats (els ‘deepfake’). I de tots els programaris, han conclòs que Google Gemini és el més complet i fiable. “El resultat no tan sols ajuda a evitar ciberestafes, sinó que es pot aplicar per verificar tots els continguts que circulen per xarxes”, explica la seva professora, Anna Carbonell.
Segons dades dels Mossos d’Esquadra, a Catalunya de mitjana cada mes es denuncien estafes que en conjunt acaben sumant imports d’entre 12 i 15 milions d’euros (MEUR). I la immensa majoria -per no dir gairebé totes- tenen lloc en entorns digitals.
Com a esquer, sovint els ciberdelinqüents se serveixen de ‘fake news’ o ‘deepfake’. Són notícies falses intencionades, o bé vídeos falsejats de personatges famosos que, per posar un exemple, anuncien inversions amb rendibilitats molt elevades en poc temps. Hi ha trucatges tan sofisticats que costa discernir si allò que s’hi explica és veritat o mentida.
L’auge d’aquestes ciberestafes ha portat el Col·legi d’Economistes de Catalunya a publicar un estudi específic per alertar tant les empreses com la ciutadania dels riscos que comporta caure al parany. I com a part d’aquest informe, el col·legi va encarregar a la facultat de Ciències Econòmiques i Empresarials de la UdG que analitzés quines eines basades en la IA són més efectives per lluitar contra aquestes mentides.
La recerca l’han fet un grup de deu estudiants voluntaris sota la supervisió de la professora Anna Carbonell, que imparteix l’assignatura de màrqueting digital. Són universitaris que aquest curs han fet 3r o 4t d’Economia, Administració i Direcció d’Empreses o bé el doble grau.
Durant mig any, els universitaris han analitzat fins a 21 programaris diferents i han posat a prova la seva capacitat per verificar continguts. Sigui només text, sigui també contingut audiovisual (gràfics, fotografies, vídeos i àudios). Dins el llistat, n’hi ha de coneguts com ChatGPT o Gemini de Google, però també d’altres més específics -i no tan populars- com Vastav, GPT Zero, Hive AI, Just Done, My AI Detector, Newsguard, Perplexity AI, SurfSafe o Scribb, per posar-ne alguns exemples.
Radiografia amb detall
De cadascuna de les eines basades en la IA, els estudiants de la UdG n’han fet una autèntica radiografia amb detall. Partint d’un corpus de 100 notícies falses, i també d’altres de verídiques, els universitaris han testejat cadascun dels programaris. Ho han fet en diferents idiomes (català, castellà i anglès) i també dispositius (ordinadors, tauletes i mòbils).
“Hem analitzat un munt de variables; per exemple, si els resultats que donaven eren homogenis quan la pregunta li fèiem diferents persones, el temps de resposta, si l’eina era intuïtiva o no i si donava un veredicte amb claredat”, explica David Domingo, que estudia quart d’ADE a la universitat. “A més, barrejar tant ‘fake news’ com notícies verídiques també ens permetia saber si el programari s’equivocava a l’hora de detectar-les”, precisa.
“Com que som de diferents graus, ens coordinàvem per veure’ns a la biblioteca; allà ens repartíem en grups d’entre tres i quatre, i dins d’aquests, cadascú contrastava la mateixa eina per separat”, hi afegeix Helena Garcia, de 22 anys i que també fa ADE a la UdG.
Gemini, la més fiable
Analitzar els 21 programaris basats en la IA i extreure’n conclusions de quins ocupen el capdavant del rànquing en eficàcia els ha portat ben bé mig any. El resultat és l’estudi ‘Economia de la mentida’, que inclou els resultats per a cadascuna de les eines i també conclou quines són les més robustes i viables a l’hora de fer aflorar les ‘fake news’ o els ‘deepfake’ que inunden les xarxes.
D’entrada, l’estudi fa una diferenciació per continguts. Si s’analitzen textos exclusivament, GPT Zero és una de les opcions més adequades; en el cas d’imatges i àudio, en destaca IsFakeIA, i en continguts audiovisuals, la solució més fiable per detectar vídeos manipulats és Vastav.
Tot i això, més enllà dels programaris especialitzats, l’estudi també conclou que l’eina transversal -és a dir, per a tot tipus de continguts- que s’ha erigit com la més “completa i robusta” és Gemini. “La intel·ligència artificial de Google analitza amb precisió mil·limètrica si un contingut és real o bé ha estat manipulat”, concreta Helena Garcia. Perquè a més d’analitzar tècnicament els arxius, també els contrasta amb dades en temps real (per veure si aquell missatge és coherent en comparació amb registres oficials i fonts d’actualitat).
De fet, Gemini arriba a detectar fins i tot aquella signatura digital -com una marca d’aigua- que és imperceptible i que permet saber si aquell contingut s’ha creat amb IA o bé és real. A més, a diferència d’altres programaris, a l’hora de fer la recerca, l’usuari no cal que li doni instruccions molt precises (unes ordres que es coneixen amb l’anglicisme ‘prompt’). I d’altra banda, com que Gemini està integrat dins l’ecosistema de Google, això el fa molt accessible, disposa d’una versió gratuïta i és fàcil de fer servir.
Per últim, l’estudi fet pels universitaris conclou que Perplexity AI també és una eina “altament eficient” i fa una menció especial a Verificat, la plataforma de verificació de fets nascuda a Catalunya, de qui en reconeix la tasca a l’hora de desmuntar notícies falses.
Aplicables arreu
Tot i que l’informe que han fet els estudiants de la UdG s’hagi circumscrit a l’àmbit econòmic -perquè aquest en va ser l’encàrrec- els seus resultats són aplicables arreu. Des d’empreses fins a la ciutadania en general, passant per mitjans de comunicació o analistes polítics, per posar algun exemples. Perquè en definitiva, l’informe identifica quines eines basades en la IA són més efectives per lluitar contra la desinformació a traves de ‘fake news’ o ‘deepfake’.
“De la mateixa manera que una persona pot ser estafada econòmicament, també ho pot ser de moltes altres maneres”, concreta Anna Carbonell. “Cada dia, a les xarxes socials hi circulen multitud d’imatges, de notícies i de vídeos que són falsos però amb aparença real; i aquest estudi permet saber quins programaris són més efectius a l’hora de saber si una publicació o contingut és cert o no”, conclou la professora de màrqueting digital.
