CORTINA, Adela

 

"¿ÉTICA O IDEOLOGIA DE LA INTELIGENCIA ARTIFICIAL? El eclipse de la razón comunicativa en una sociedad tecnologizada”

 

ÈTICA / INTEL·LIGÈNCIA ARTIFICIAL /

Editorial Planeta / Pàgines: 247 / ISBN: 978-84-493-4279-0 / Edició: Novembre 2024.

 

Adela Cortina és catedràtica d'Ètica i Filosofia Política a la Universitat de València. En aquest nou assaig, ens planteja la qüestió de si la intel·ligència artificial (IA) es regeix per l'ètica o si, per contra, està subsumida en una ideologia. Sense cap mena de dubte, aquest és un dels debats filosòfics més urgents del nostre temps.

En lloc d'oferir una resposta simple, la síntesi d'aquest debat revela una interacció complexa de principis morals universals davant de visions del món esbiaixades i, sovint, opaques, que influeixen en el desenvolupament i la implementació de la IA. La distinció crucial rau en si aspirem a un marc de valors universalment justificat o si simplement estem perpetuant interessos i biaixos específics sota la disfressa de la neutralitat tecnològica.

 

El debat es pot sintetitzar en els punts clau següents:

L'aspiració de l'ètica de la IA: principis universals

L'ètica de la IA és un camp d'estudi que cerca establir principis morals i directrius per guiar el disseny, l'ús i la regulació dels sistemes d'intel·ligència artificial, amb la finalitat de protegir i empoderar els éssers humans. Es basa en la raó comunicativa (Habermas), que cerca consensos a través del diàleg i la justificació racional, i se centra en:

•      Protecció dels Drets Humans: la pedra angular és la dignitat humana i els drets fonamentals, assegurant que la IA no els menystingui.
• Transparència i explicabilitat: s'insisteix en la necessitat de comprendre com arriben els sistemes d'IA a les seves decisions, evitant l'opacitat de les “caixes negres”.
• Equitat i Justícia Social: un objectiu central és lluitar contra la discriminació i els biaixos incrustats a les dades d'entrenament, garantint que els beneficis de la IA siguin accessibles per a tothom.
• Responsabilitat i Governança: s'estableixen mecanismes clars per determinar qui n'és responsable en cas d'errors o danys causats per la IA.

L'ètica, en aquest sentit, és vista com una de les creacions més grans de la intel·ligència humana per resoldre problemes de convivència i justícia, i ha de prevaler sobre la raó instrumental (Escola de Frankfurt: Horkheimer)

 

El perill de la ideologia de la IA: biaixos ocults i interessos particulars

D'altra banda, la ideologia de la IA fa referència a una visió esbiaixada o deformada de la realitat que es disfressa d'objectivitat tecnològica, sovint impulsada per interessos comercials o geopolítics específics. Aquest enfocament ideològic presenta diversos riscos significatius:

•     Determinisme Tecnològic: la creença que la tecnologia avança per si sola i els humans simplement han de seguir-la sense capacitat de control, cosa que pot portar a una renúncia de la llibertat humana i la seva autonomia.
• Manca de Neutralitat: els sistemes d'IA aprenen de dades passades, que reflecteixen biaixos socials i intencionalitats dels seus creadors. Assumir que la IA és neutral és un error ideològic.
• L’eclipsi de la Raó Comunicativa: les grans empreses tecnològiques poden utilitzar la IA amb finalitats de control i vigilància, promovent una raó purament instrumental (mitjà-fi) sobre la raó comunicativa (diàleg i consens), cosa que és negativa per a la democràcia i la identitat personal.
• Delegació Excessiva de Decisions: la ideologia pot empènyer a delegar decisions significatives per a la vida humana (com a diagnòstics mèdics o sentències judicials) a algorismes sense el matís del raonament humà i contextual.

 

La IA i la relació amb el transhumanisme.

I en tot aquest context, apareix i es creua el transhumanisme. El transhumanisme és el moviment intel·lectual que advoca per l’ús de la tecnologia per superar les limitacions biològiques humanes (envelliment, intel·lecte limitat, fragilitat física).

Així, hi ha qui veu la IA com a motor evolutiu. El transhumanisme veu la IA no només com una eina, sinó com el pas següent en l'evolució. Això inclou des d'interfícies cervell-computadora (com les de Neuralink) fins a la possibilitat teòrica de la “càrrega mental” (mind uploading).

Però aquí es produeix un conflicte ètic. Aquí és on l'ètica i la ideologia xoquen. Els crítics adverteixen que una IA transhumanista podria crear una escletxa ontològica: una elit "millorada" tecnològicament davant d'una majoria humana biològica, aprofundint les desigualtats socials de forma irreversible.

 

Síntesi del debat

En síntesi, la disjuntiva central no és si la IA té ètica o ideologia, sinó quin enfocament adoptem els éssers humans en desenvolupar-la. El llibre d'Adela Cortina i el debat general argumenten que hi ha una forta tendència ideològica a presentar la IA com una força inevitable i neutral, cosa que amaga els biaixos i els interessos de poder darrere del seu desenvolupament.

La síntesi és que hem de resistir la ideologia del determinisme algorísmic i, en canvi, insistir en l'ètica com un marc rector essencial. Això significa:

•     Supervisió humana: La supervisió humana és indispensable per comprendre la complexitat de les situacions i aplicar el judici ètic necessari, especialment en contextos que requereixen interpretació i empatia.
• Conrear la Democràcia: És crucial que els ciutadans, científics, filòsofs i governants participin en la regulació legal i ètica de la IA, assegurant que les decisions importants es prenguin de forma col·lectiva i democràtica.
• Prioritzar la Persona: La IA ha de ser utilitzada com un instrument per defensar i empoderar els éssers humans, i no al revés, evitant la instrumentalització de la vida humana.

En conclusió, l'ètica de la intel·ligència artificial és una aspiració vital per un futur just i humà, mentre que la ideologia de la intel·ligència artificial és un risc constant de perpetuar desigualtats i perdre la nostra autonomia davant de sistemes opacs i esbiaixats. El desafiament és enorme, però la llibertat humana rau en la nostra capacitat de dir "no" a allò que no ens interessa i "sí" a allò que ens apropa a una convivència justa i feliç, la qual cosa requereix un compromís actiu amb l'ètica i la democràcia a l'era digital.

 

Podeu trobar més informació a:

¿Ética O Ideología De La Inteligencia Artificial?. El Eclipse De La Razón Comunicativa En Una Sociedad Tecnologizada, a EL RINCÓN DE LIBROS DE DAVID