La intel·ligència artificial també és una "amenaça" per als processos electorals. Així ho assenyala l'Observatori d'Ètica en Intel·ligència Artificial de Catalunya (OIEAC), que ha publicat un informe que determina cinc categories d'eines amb un potencial de manipulació elevat: els deepfakes (vídeos i àudios falsos amb aparença realista), Grans Models de Llenguatge que generen desinformació a escala industrial, bots d'amplificació automàtica, la microsegmentació piscogràfica que permet enviar missatges molt personalitzats i la suplantació d'identitat automatitzada. L'observatori ha detectat exemples d'aquestes eines en processos electorals de cinc continents.
L'estudi ha estat un encàrrec del Departament de Justícia i Qualitat Democràtica de la Generalitat de Catalunya. En aquest informe es detalla del paper de la IA en els processos electorals i com es fan servir les eines que dona aquesta tecnologia i alerta que el 2024 es va registrar un punt d'inflexió quan en més de 60 països hi havia incidents de desinformació o manipulació activa a partir de la IA. Es tracta de gairebé la meitat dels estats que hi ha en tot el món.
Aquest document detalla que el 2023 a Turquia els candidats a l'oposició van denunciar que circulaven àudios falsos generats per intel·ligència artificial i apuntaven a Erdogan com a promotor d'aquesta campanya de desinformació. El 2024, al Pakistan es van difondre imatges falses de candidats que es trobaven en contextos enganyosos per influir en el vot. A més, el dia de les eleccions es va patir una desconnexió massiva a Internet.
Per altra banda, a Corea del Sud hi va haver 129 casos de vídeos generats amb IA en les eleccions al parlament. Als Estats Units, també destaca el cas de desinformació del 2024 que va impulsar el xatbot de la xarxa social X, quan va informar de manera falsa que la vicepresidenta Kamala Harris havia superat el termini per presentar la candidatura en nou estats.
A Mèxic també es van registrar incidències per l'ús fraudulent d'un xatbot que suplantava candidats i el 2025 a l'Argentina es va difondre un vídeo generat amb intel·ligència artificial on un candidat es retirava i demanava el vot pel seu rival poques hores abans d'obrir els col·legis electorals. Aquest conjunt de casos remarquen la vulnerabilitat que pateix l'electorat davant de possibles casos de desinformació en un procés electoral i la possible afectació que pot tenir aquest material a l'hora de decantar els vots.
Casos més propers
En l'àmbit català, també s'han documentat alguns casos. Vox s'ha convertit en un dels partits polítics dels estats membres de la UE que més campanyes de desinformació han impulsat a través de les xarxes socials. El 2019 van crear més de 600 grups de Facebook amb un impacte de 763.000 visites. El novembre del 2025 van fer una campanya amb imatges creades per IA o robades de les xarxes de dones que seguien un cànon físic molt concret per difondre missatges en sintonia amb la ideologia del partit.
Aliança Catalana va utilitzar una imatge creada per IA per alimentar la xenofòbia a Manresa i es manipulaven dades oficials sobre la població estrangera. La imatge va viralitzar-se ràpidament abans que es pogués desmentir. La líder del partit va difondre una altra imatge feta per IA on es veia disparant contra Carles Puigdemont. Aquest cas ja s'ha denunciat judicialment per un delicte d'odi.
Per tot això, des de l'observatori demanen "un canvi de mirada" perquè asseguren que la velocitat de viralització de tots aquests materials i campanyes de desinformació supera la capacitat de reacció per desmentir-les. De fet, el director de l'observatori, Albert Sabater Coll, assegura que "l'objectiu ja no és només enganyar sinó erosionar la confiança ciutadana en el sistema".
