WION explica: les properes eleccions als Estats Units i el Regne Unit i l’amenaça de desinformació alimentada per IA


Els experts han expressat la seva preocupació perquè les eleccions de l’any vinent al Regne Unit i als Estats Units puguin estar afectades per una onada de desinformació impulsada per IA. Adverteixen que la proliferació d’imatges, text i vídeos falsos profunds generats per la intel·ligència artificial, difoses per eixams de robots de propaganda impulsats per IA, podria tenir un impacte significatiu.

En els darrers dies, les preocupacions sobre la IA han augmentat, sobretot després dels avenços en la tecnologia d’IA generativa.

Per què la IA és una preocupació ara?

Segons The Guardian, mentre que les onades anteriors de “bots de propaganda” es basaven en missatges escrits prèviament senzills o “trolls de pagament”, eines com ChatGPT i Midjourney tenen la capacitat de produir text realista, imatges i fins i tot veu a comandament. Això ha generat preocupacions sobre la interferència electoral interactiva a gran escala.

Un estudi de NewsGuard, una organització que controla la desinformació, va provar ChatGPT i el chatbot de Google Bard i va trobar que eren capaços de generar notícies falses quan se’ls demana. Això posa de manifest el potencial de les eines d’IA per produir en massa variacions d’històries falses, cosa que genera preocupacions sobre la difusió deliberada d’informació falsa.

Divendres, NewsGuard també va anunciar que s’han duplicat els llocs web de notícies i informació generats per IA, que s’han més que duplicat fins a 125 en dues setmanes.

Destacant la necessitat de regulació, educació pública i transparència pel que fa a l’ús de la IA, va dir: “La capacitat general d’aquests models per manipular i persuadir, per proporcionar desinformació interactiva individualment és una àrea de preocupació important”.

“La regulació seria bastant sàvia: la gent ha de saber si està parlant amb una intel·ligència artificial o si es genera o no el contingut que estan mirant. La capacitat de modelar realment… per predir humans, crec que requerirà. una combinació d’empreses que fan el correcte, regulació i educació pública”, ha afegit.

Desinformació impulsada per IA

El professor Michael Wooldridge de l’Institut Alan Turing va identificar la desinformació impulsada per IA com la seva principal preocupació sobre la tecnologia. Va assenyalar que la IA generativa pot generar desinformació a “escala industrial”.

“Ara mateix, pel que fa a les meves preocupacions per la IA, és el número u de la llista. Tenim eleccions al Regne Unit i als Estats Units i sabem que les xarxes socials són un canal increïblement poderós per a la desinformació. Però ara coneixem aquesta IA generativa. pot produir desinformació a escala industrial”.

Va dir que els chatbots com ChatGPT poden produir desinformació personalitzada dirigida a grups polítics o demogràfics específics, i va afegir que “és una feina de tarda per a algú amb una mica d’experiència en programació per crear identitats falses i començar a generar aquestes notícies falses”.

Imatges generades per IA

Les imatges generades per IA són un altre problema. Recordeu les imatges de Donald Trump sent arrestat i el Papa amb una jaqueta de bufanda “dopa”? Aquesta és la feina de la intel·ligència artificial.

A principis d’aquest any, a mesura que aquestes imatges es van fer virals, moltes persones van expressar la seva preocupació sobre l’ús potencial de les imatges generades per provocar confusió i desinformació.

Tanmateix, Sam Altman, mentre es dirigia als senadors nord-americans, va suggerir que aquestes preocupacions podrien ser exagerades o desproporcionades. Va comparar les imatges generades per IA amb l’adopció anterior de Photoshop.

Va dir que la gent finalment va desenvolupar la comprensió que les imatges es podrien manipular.

“Photoshop va arribar a l’escena fa molt de temps i durant un temps la gent es va enganyar molt per les imatges amb Photoshop, i després va desenvolupar ràpidament la comprensió que les imatges podrien ser Photoshop”.

No obstant això, malgrat la declaració d’Altman, a mesura que avancen les capacitats d’IA, hi ha la preocupació que cada cop sigui més difícil confiar en les coses a les xarxes socials i que a mesura que la tecnologia es desenvolupi encara més, la dificultat per diferenciar entre la desinformació i la desinformació intencionada només augmentarà.

IA i clonació de veu

Al gener, la clonació de veu va guanyar una atenció important quan va aparèixer un vídeo manipulat del president dels Estats Units, Joe Biden. El metratge original, en què parlava de l’enviament de tancs a Ucraïna, es va modificar mitjançant la tecnologia de simulació de veu per fer semblar que atacava persones transgènere. El vídeo manipulat es va difondre àmpliament a les plataformes de xarxes socials.

La creixent disponibilitat de serveis de clonació de veu, inclosa la clonació d’executius corporatius i personatges públics, genera preocupacions sobre el seu potencial mal ús.

Recorded Future, una empresa de ciberseguretat nord-americana, va advertir que els actors canalla podrien vendre serveis de clonació de veu en línia.

Alexander Leslie, un analista de l’empresa, va dir que la tecnologia està millorant i suposa una amenaça més gran a mesura que s’acosten les eleccions presidencials dels EUA.

“Sense una educació i una conscienciació generalitzades, això podria convertir-se en un autèntic vector d’amenaça mentre ens dirigim a les eleccions presidencials”, va dir.

Steven Brill, co-CEO de NewsGuard, va expressar la seva preocupació pel possible ús indegut de la tecnologia de chatbot per part d’individus maliciosos per crear versions variades d’històries falses. Va dir, “el perill és que algú l’utilitzi deliberadament per bombar aquestes narracions falses”.

(Amb aportacions d’agències)

Ara pots escriure a wionews.com i formar part de la comunitat. Comparteix les teves històries i opinions amb nosaltres aquí.



Source link