Al sopar-conversa de 100xCent Vilafranca sobre Intel·ligència Artificial, López de Mantarás alerta dels perills de l’antropomorfització de les màquines, del poder de les grans tecnològiques i de la necessitat de regulacions més exigents sobre els usos socials, econòmics i militars de la tecnologia
La Intel·ligència Artificial genera fascinació i inquietud a parts iguals, però el debat sovint es planteja sobre premisses equivocades. Ramon López de Mántaras, una veu experta i crítica defensa que la IA no té consciència ni capacitat real de comprensió, i alerta que els riscos més greus no provenen d’una hipotètica rebel·lió de les màquines, sinó de les decisions humanes i dels interessos econòmics que hi ha darrere del seu desenvolupament.
La idea que una Intel·ligència Artificial pugui adquirir consciència o acabar actuant contra la voluntat humana és, segons Mantarás, una visió exagerada. Remarca que atribuir característiques humanes a la IA és només una metàfora i que una màquina no raona com ho fa una persona. La seva base és el càlcul matemàtic, l’àlgebra lineal i el processament estadístic de dades, no pas la comprensió o la consciència.
També va destacar que els grans models d’IA són capaços d’articular respostes molt convincents gràcies a la gran disponibilitat de dades i a la potència computacional actual, però això no significa que entenguin allò que diuen. El fet que sistemes com ChatGPT puguin generar la sensació d’estar interactuant amb una persona, fins al punt de superar proves de comportament humà, incrementa el risc que moltes persones els atribueixin capacitats que realment no tenen.
Durant el debat es va advertir especialment dels usos socials problemàtics d’aquestes eines. Entre els riscos assenyalats hi ha la proliferació de persones fictícies, vídeos manipulats, desinformació massiva o la tendència a substituir relacions i processos humans per interaccions amb xatbots. En aquest sentit, es va alertar del perill que determinades persones arribin a utilitzar la IA com a substitut de professionals qualificats en àmbits sensibles com el suport psicològic.
Un altre dels eixos de la reflexió va ser el paper de les grans empreses tecnològiques. Segons aquesta mirada crítica, el relat catastrofista sobre una futura IA fora de control pot servir per generar expectatives de mercat, captar inversions o diluir responsabilitats. Si es presenta la IA com una entitat autònoma amb capacitat pròpia de decisió, es corre el risc de desplaçar la responsabilitat dels efectes socials i polítics de la tecnologia lluny de les empreses i de les persones que la desenvolupen i la comercialitzen.
Finalment, es va defensar la necessitat de reorientar el desenvolupament tecnològic cap a intel·ligències artificials específiques, més eficients energèticament, transparents i controlables. També es van reclamar regulacions més ambicioses, especialment en qüestions com les armes letals autònomes, l’impacte ambiental dels centres de dades o els biaixos que la IA pot amplificar. La conclusió principal va ser clara: el debat no ha de girar al voltant d’una suposada consciència de les màquines, sinó sobre quin ús en fa la societat i qui n’assumeix la responsabilitat i com es regula.
El proper sopar-conversa del 100xCent Vilafranca serà el dimecres 18 de novembre amb Antoni Segura, exdirector del CIDOB i expert en política internacional per analitzar la situació global actual.
