Impacte de la intel·ligència artificial, la ciberviolència i els deepfakes en la igualtat, la democràcia i societats inclusives | Addressing the impact of artificial intelligence, cyberviolence, and deepfakes on equality, democracy and inclusive societies

Context i objectiu:

• El desenvolupament accelerat de la intel·ligència artificial (IA) i el seu ús maliciós, com la generació i manipulació artificial de continguts, impacta profundament en la democràcia, la igualtat i la inclusió social, i contribueix a l'augment de la ciberviolència.
• Aquest tema aborda tant l’ús maliciós de la IA (desinformació generada per IA, deepfakes, ciberviolència) com les seves conseqüències socials no intencionades (opacitat algorítmica, amplificació de biaixos).
• L’objectiu és investigar com la IA pot agreujar o mitigar les desigualtats i la discriminació, i proposar pràctiques i polítiques per a un ús ètic i segur de la IA a la societat.

Aspectes a abordar:

• Explorar com les tecnologies basades en IA poden agreujar o mitigar les desigualtats i discriminacions per motius de sexe, gènere, orientació sexual, origen racial o ètnic, religió o creences, edat i discapacitat, especialment en l’accés a la informació, presa de decisions i representació.
• Analitzar com les dades, sovint reflectint biaixos socials existents, poden reforçar o desafiar les estructures socials i la seguretat.
• Investigar els riscos de la IA per a la integritat democràtica, especialment en la manipulació de l’opinió pública, processos electorals i sistemes de governança.
• Examinar la influència de la IA i els continguts generats en la formació d’opinió pública, estereotips de gènere i compromís cívic, incloent l’entreteniment i els mitjans de comunicació.
• Estudiar la ciberviolència facilitada per continguts manipulats (deepfakes, deep nudes, sextorsió), identificant grups vulnerables i proposant intervencions per prevenir i mitigar aquests riscos.
• Analitzar la influència de la IA en la presa de decisions polítiques i judicials, incloent les conseqüències no desitjades.
• Considerar l’impacte de la IA en les persones joves, especialment pel que fa a la reproducció d’estereotips i afectacions en el benestar mental i físic.
• Fomentar la recerca interdisciplinària sobre la resiliència social davant la desinformació, la millora del compromís cívic i el suport a comunitats marginades.
• Desenvolupar eines i metodologies innovadores per detectar i mitigar deepfakes, desinformació i ciberviolència facilitades per la IA, per a una adopció àmplia.
• Contribuir a l’estratègia europea d’IA, donant suport a la implementació de la Llei d’Intel·ligència Artificial, la Directiva sobre la violència contra les dones i la Llei de Serveis Digitals.

S'espera que els projectes contribueixin a:

• Millorar la comprensió de l'impacte de les tecnologies basades en IA, incloent deepfakes i generació automatitzada de continguts, en la igualtat, la participació política, els processos democràtics, la confiança pública i la cohesió social.
• Fomentar l’adopció de marcs polítics basats en l’evidència per a una governança responsable, fiable i transparent de la IA, integrant consideracions ètiques, legals i socials per salvaguardar els drets fonamentals.
• Augmentar la consciència pública i l’alfabetització mediàtica per capacitar la ciutadania en la identificació i avaluació crítica de la desinformació, l’ús maliciós dels deepfakes i els danys en línia.
• Enfortir la capacitat de les institucions acadèmiques per a la recerca rellevant socialment en IA i el desenvolupament de models d’IA fiables i ètics, mitjançant una major col·laboració amb la indústria i millor accés a infraestructures, dades i finançament.