Quina és l’especificitat i quin serà el futur de l’espècie humana en l’era de les intel·ligències artificials? Com podem continuar sent plenament humans i orientar cap al bé el canvi cultural en curs? Aquestes són algunes de les preguntes que motiven la reflexió del papa Francesc en el Missatge per a la 58a Jornada Mundial de les Comunicacions Socials, que se celebrarà el diumenge 12 de maig sota el lema Intel·ligència artificial i saviesa del cor per a una comunicació plenament humana.
En el text, publicat el passat dimecres 24 de gener, coincidint amb la festivitat de Sant Francesc de Sales, patró dels periodistes i escriptors, Francesc adverteix que l’imparable desenvolupament dels sistemes d’intel·ligència artificial marca l’inici d’una època que corre el risc de ser “rica en tecnologia i pobra en humanitat”. Per això, Francesc insta a posar llum sobre aquest nou context a partir d’una reflexió que ha de partir, diu, del cor humà.
Davant d’una revolució digital que està modificant de forma accelerada la informació i la comunicació i, amb això, “alguns fonaments de la convivència civil”, Francesc defuig de les lectures catastrofistes i convida a llegir i interpretar les novetats del món actual recuperant la saviesa del cor. “Només dotant-nos d’una mirada espiritual podrem redescobrir el camí d’una comunicació plenament humana”, assenyala el pontífex.
Perills i oportunitats
Conscient de les oportunitats i perills que suposa la irrupció de la intel·ligència artificial, Francesc adverteix que de les màquines no es pot esperar saviesa. Així, alerta que el terme “intel·ligència” aplicat a les màquines és enganyós: “Les màquines posseeixen una capacitat incommensurablement major que els humans per a emmagatzemar dades i correlacionar-los entre si, però correspon a l’home, i només a ell, desxifrar el seu significat”, alerta Bergoglio.
Segons Francesc, només l’orientació del cor determina que allò que està en mans de l’home pugui esdevenir oportunitat o perill. “La intel·ligència artificial —diu Francesc— pot, per exemple, fer accessible i comprensible una enorme riquesa de coneixements escrits en èpoques passades o fer que les persones es comuniquin en llengües que no coneixen. Però al mateix temps pot ser instrument de “contaminació cognitiva”, d’alteració de la realitat a través de narratives parcials o totalment falses que es creuen —i es comparteixen— com si fossin veritables”.
En aquest sentit, el Papa posa com a exemple les notícies falses, que avui en dia han fet un pas més enllà servint-se de les anomenades deepfakes, és a dir, la creació i difusió d’imatges que semblen versemblants, però que són falses. El pontífex, que ha estat objecte d’aquestes pràctiques, també alerta del perill dels sistemes de simulació de veu, que si bé poden ser útils en alguns camps específics, “es torna perversa quan distorsiona la relació amb els altres i amb la realitat”.
“Eines en mans equivocades”
“És important tenir la capacitat d’entendre, comprendre i regular eines que en mans equivocades podrien obrir escenaris adversos”, assenyala el Papa, que en aquest punt proposa “actuar preventivament proposant models de regulació ètica per frenar les implicacions nocives i discriminatòries socialment injustes de la intel·ligència artificial i contrarestar-ne l’ús en la reducció del pluralisme, la polarització de l’opinió pública o la construcció d’un pensament únic”.
Per prevenir aquests eventuals efectes adversos, Francesc renova la crida que va fer amb motiu de la Jornada Mundial de la Pau 2024, celebrada el passat 1 de gener, i exhorta la comunitat internacional a treballar unida per adoptar un tractat internacional vinculant que reguli el desenvolupament i l’ús de la intel·ligència artificial en les seves múltiples formes.
Per estar a l’altura d’una societat complexa, multiètnica, pluralista, multirreligiosa i multicultural, Francesc considera que és imprescindible créixer junts en humanitat i com a humanitat. Conscient de la necessitat de qüestionar-se sobre allò que poden donar de si els nous instruments de comunicació i coneixement, el Papa recorda que les grans possibilitats de bé acompanyen el risc que tot es transformi en un “càlcul abstracte que redueixi les persones a meres dades” i “negui la unicitat de cada persona i de la seva història dissolvent la concreció de la realitat en una sèrie d’estadístiques”.
L’home: aliment d’algoritmes?
Francesc qualifica d’inacceptable el fet que l’ús de la intel·ligència artificial condueixi a un pensament anònim, a un acoblament de dades no certificades, a una “negligència col·lectiva de responsabilitat editorial”. I pensant en els reporters de guerra que es juguen la vida per explicar de primera mà la veritat en situacions de conflicte i transmetre l’absurditat de la guerra, recorda que l’ús de la intel·ligència artificial podrà contribuir positivament en el camp de la comunicació si no anul·la el paper del periodisme sobre el terreny.
Així, el pontífex llança un seguit de preguntes per reflexionar a fi de comprendre si la intel·ligència artificial acabarà construint noves castes basades en el domini de la informació, generant noves formes d’explotació i desigualtat; o si, per contra, portarà més igualtat, promovent una informació correcta i una major consciència del canvi d’època, afavorint l’escolta de les múltiples necessitats de les persones i dels pobles, en un sistema d’informació articulat i pluralista. “D’una banda, plana l’espectre d’una nova esclavitud, per l’altra, una conquesta de la llibertat; d’una banda, la possibilitat que uns pocs condicionin el pensament de tots, per un altre, la possibilitat que tots participin en l’elaboració del pensament”, planteja el Papa.
Davant la cruïlla en què l’adveniment dels sistemes d’intel·ligència artificial situa l’espècie humana, el papa finalitza advertint que correspon a l’home decidir si es converteix en aliment d’algoritmes o, en canvi, alimenta el seu cor amb llibertat. i saviesa. “Aquesta saviesa madura traient profit del temps i comprenent les febleses. Creix en l’aliança entre generacions, entre els qui tenen memòria del passat i els qui tenen visió de futur. Només junts creix la capacitat de discernir, de vigilar, de veure les coses a partir del seu compliment”, conclou Francesc.
