Vers una mirada heterotòpica a la intel·ligència artificial generativa

Així com la majoria de les persones no deuen haver vist mai un paó bebè, sembla que els models de IAG utilitzats tampoc disposaven d’aquestes imatges per a poder representar-los. És el que es coneix com el biaix de dades de la IA.

 

 

 

 

 

 

 

 

Imatge d’un paó bebè creada amb IAGen (esq.) i foto d’un real (der.)

Font: comparatiu realitzat pels autors

 

L’anècdota no va quedar allà; els paons bebè inventats van acabar impactant al cercador de Google. Si per aquells dies es buscava una imatge d’un «baby peacock» (paó bebè, en anglès), la majoria dels resultats obtinguts presentaven diferents versions de paons bebès creats per IAGen. La massificació d’aquestes imatges podia reforçar la idea que eren reals i tenia el potencial de transformar (i tot i que només momentàniament) el coneixement públic sobre el medi natural.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

«Baby peacocks» creats per IAGen vs reals a Google

Font: Google (cerca i identificació dutes a terme pels autors)

 

Amb l’impacte viral que van tenir els paons, es podria pensar que els sistemes intel·ligents capaços de convertir text en imatges podrien haver pres bona nota i ajustat els seus models per a generar continguts més realistes. Però la realitat és que, 2 anys després, aquest canvi encara no s’ha donat (i potser ja no es dona). Avui dia, aquestes eines encara generen imatges de paons bebè estilitzades i poc realistes (pot constatar-se en la següent imatge), concebudes per a ressaltar la seva naturalesa fantàstica, però que solen confondre’s amb fotografies reals.

 

 

 

 

 

 

 

 

 

 

 

 

 

«Baby peacock photorealistic style», segons Midjourney (2025)

Font: creació dels autors emprant Midjourney

 

A més, una cerca a Google avui dia encara combina imatges realistes i fantàstiques.

 

 

 

 

 

 

 

 

 

 

 

Imatges de «Baby peacocks» reals i no, convivint a Google (setembre de 2025)

Font: Google (cerca duta a terme pels autors)

 

Els biaixos dels sistemes d’intel·ligència artificial sovint passen desapercebuts, perquè afecten només una part dels continguts generats, les prediccions o les avaluacions de risc, etc. Utòpicament, es veuen com alguna cosa que es pot solucionar a partir d’un major control de les dades d’entrenament i dels ajustos en els models d’IA. No obstant això, aquests biaixos poden tenir un impacte profund en la societat en general i, quan es detecten, el perjudici ja està fet. Així i tot, no semblen ser una prioritat en les polítiques de moderació de continguts de la indústria de la IA.

 

Mirades a la IA

 

Els debats actuals sobre les aplicacions de la IA inclouen la millora de la sanitat o l’educació, combatre l’escalfament global o potenciar la indústria cultural. Com succeeix amb l’arribada de qualsevol tecnologia, el discurs imperant sol estar emmarcat en una perspectiva tecnodeterminista (Ellul, s.d.), segons la qual la societat és modelada per la lògica intrínseca de les tecnologies i les seves tècniques. D’aquesta manera, aquestes tecnologies es plantegen com una solució a la majoria dels problemes de la societat (Morozov, 2013), la qual cosa les converteix en un espai utòpic (Wellman, 2004) a punt d’assolirse. La visió tecnosolucionista no és una cosa nova, ja fa anys que va atreure l’atenció en la indústria tecnològica i actualment es troba implícita en la cultura emprenedora moderna (Johnston, 2020).

 

El solucionisme tecnològic aborda la complexitat des d’una perspectiva reduccionista, en considerar els problemes com a simples peces d’un puzle que pot resoldre’s en lloc de reconèixer-los com a qüestions que requereixen respostes múltiples (Paquet, 2005). Davant aquest context, abraçar una visió distòpica que anul·li tota esperança pot ser descoratjador. Per a superar aquesta visió utòpic-solucionista, resulta pertinent explorar enfocaments alternatius, més plurals, heterotòpics. Michel Foucault parla de l’heterotopia com l’«altre lloc» (Foucault, 1984) que existeix dins la realitat social; un espai on habita allò quotidià, però amb altres regles, i on es revelen tensions ocultes de la societat.

 

La mirada heterotòpica resulta particularment fèrtil per a pensar la IAGen en el present. Enfront de la mirada reduccionista a la qual fèiem esment a dalt, aquest enfocament ens permet desplaçar el focus. Més que una tecnologia miraculosa, la IAGen pot entendre’s com «un altre lloc» que revela les fissures de la nostra societat. En el nostre exemple veiem com els continguts generats amb IAGen distorsionen la realitat i visibilitzen els biaixos inherents en les dades i en els algorismes que els sustenten. En el fons, s’adverteix que la IAGen se sustenta gràcies a un elevat consum energètic i a les desigualtats presents en la distribució del poder tecnològic (Araújo et al., 2025): mentre les grans corporacions concentren recursos, els seus treballadors sostenen aquestes infraestructures amb treballs precaris en les labors d’etiquetatge i moderació de continguts. Una visió heterotòpica ens exigeix explorar i confrontar –i no encobrir– aquestes tensions. Des d’aquesta perspectiva, el desafiament passa per enfrontar la seva inevitabilitat (Medrado i Verdegem, 2024) alhora que per buscar maneres per a democratitzar el seu desenvolupament. La IAGen també pot ser un bé comú (Taddeo i Floridi, 2018) que sigui capaç de promoure propòsits prosocials (Hagendorff, 2020) sempre que persegueixi confrontar-se amb un dels seus grans reptes: el d’alinear-se amb els valors i principis de les nostres societats (Christian, 2021).

 

Per saber-ne més:

ARAÚJO, Antonia do Espirito Sant Teixeira; CABRAL, Deivision Furtado, de MESQUITA, Odirlei Soares; MENDES, Gleisson Aamaral; dos Santos, Wilker José Caminha (2025). «The hidden side of generative artificial intelligence: Invisible labor, energy consumption, and ethical challenges in the case of ChatGPT». Knowledge Networks: Education as a Multidisciplinary Field, cap. 12. DOI: https://doi.org/10.56238/sevened2025.030-012

CHRISTIAN, Brian (2021). The alignment problem. Nova York: WW Norton.

ELLUL, Jacques (n.d.). The Technological Society. Alfred A. Knopf (ed.). Vintage Books [en línia]. Disponible a: https://voidnetwork.gr/wp-content/uploads/2021/09/The-Technological-Society-Jacques-Ellul.pdf

HAGENDORFF, Thilo (2020). «The ethics of AI ethics: An evaluation of guidelines». Minds and Machines, vol. 30, pàg. 99-120. DOI: https://doi.org/10.1007/s11023-020-09517-8

Johnston, Siguin F. (2020). Techno-fixers Origins and Implications of Technological Faith. McGill-Queen’s University Press. DOI: https://doi.org/10.1515/9780228002048

LaMAGDELEINE, Izz Scott (2023, agost). «Is This a Real Pic of a Baby Peacock?». Snopes [en línia]. Disponible a: https://www.snopes.com/fact-check/baby-peacock-pic/?

MEDRADO, Andrea; VERDEGEM, Pieter (2024). «Participatory action research in critical data studies: Interrogating AI from a South–North approach». Big Data & Society, vol. 11. núm. 1. DOI: https://doi.org/10.1177/20539517241235869

MOROZOV, Evgeny (2013). To save everything, clic here: Technology, solutionism, and the urge to fix problems that don’t exist [en línia]. Disponible a: https://www.amazon.es/Save-Everything-Click-Here-Solutionism/dp/1846145481

PAQUET, Gilles (2005). The new geo-governance: A baroque approach [en línia]. Disponible a: https://books.google.com/books

TADDEO, Mariarosaria; FLORIDI, Luciano (2018). «How AI can be a force for good». Science, vol. 361, núm. 6404, pàg. 751-752. DOI: https://doi.org/10.1126/science.aat5991

WELLMAN, Barry (2004). «The three ages of internet studies: Ten, five and zero years ago». New Media & Society, vol. 6, núm. 1, pàg. 123-129. DOI: https://doi.org/10.1177/1461444804040633

 

Imatge de Portada:

Imatge d’un paó bebè generada per ChatGPT a l’octubre de 2025 amb el prompt «Crea una imatge apaïsada d’un “baby peacock”». Font: ChatGPT (model GPT-5).

 

Citació recomanada

LINARES-LANZMAN, Juan; ROSALES, Andrea. «Vers una mirada heterotòpica a la intel·ligència artificial generativa». COMeIN [en línia], octubre 2025, no. 158. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n158.2572