“Hem de forçar la gent a pensar”. Aquest ha estat un dels missatges centrals de la lliçó inaugural del curs al TecnoCampus, on Cristian Canton, director associat del Barcelona Supercomputing Center (BSC), ha alertat que la IA pot generar una dependència cognitiva comparable a posar el GPS per anar a comprar el pa. Davant d’aquest risc, ha reclamat esperit crític i ha advertit que Europa s’enfronta a un problema de sobirania tecnològica: “Qui més tecnologia té, més sobirania té”.
La ponència, titulada Quo vadis IA? Passat, present i futur d’un món IA-cèntric, ha inaugurat aquest dijous dia 15 el curs acadèmic 2026-2027 en un acte al foyer del Centre de Congressos, amb intervencions de càrrecs directius del centre i de l’alcalde de Mataró, David Bote. Canton, amb una llarga trajectòria en multinacionals tecnològiques, ha parlat en un moment especial per al TecnoCampus: adscrit a la Universitat Pompeu Fabra i amb prop de 5.000 estudiants de grau i postgrau, estrena aquest curs la titulació en IA i robòtica aplicades.
Públic al TecnoCampus. Foto: A. Canalejo
Una revolució sense precedents en velocitat
Canton ha començat subratllant el ritme del canvi. La IA generativa ha tingut un impacte social massiu en només dos anys o poc més des del seu naixement, mentre que la Revolució Industrial va necessitar desenes d’anys. “Aquesta velocitat de transformació no s’ha vist mai, i per tant s’ha de fer amb molt de compte: cal ser crítics, vigilar i fer-ne bon ús”, ha dit.
L’expert ha recordat la seva etapa a Meta, on portava el treball sobre IA responsable i ètica. Allà va arribar a plantejar a Mark Zuckerberg que allò que es feia no estava bé, i li va advertir que la IA pot portar a un escenari bo o a un de dolent. Ha explicat que, des de principis de la dècada passada, aquesta tecnologia ja mostrava biaixos, errors i una automatització opaca de judicis importants: sovint prenia decisions que ningú no entenia per què.
Què aporta i on falla
Canton ha remarcat que la IA ja no només analitza dades, sinó que en genera, fins al punt de parlar-nos "com un humà" i aconseguir convèncer-nos. Entre els beneficis, ha destacat l’enorme guany de productivitat, l’ajuda a la creativitat i la baixa barrera d’entrada: no cal saber programar ni tenir maquinari propi, i qualsevol persona hi pot accedir.
Cristian Canton. Foto: A. Canalejo
Però també ha enumerat els problemes. La IA s’equivoca i al·lucina generant falsedats i la desinformació creix i és escalable; a Meta, ha dit, es trobaven amb grans volums d’informació falsa. A això s’afegeix la degradació del criteri: “Respon de forma humana, i això transmet veracitat perquè sona bé, tot i que pot ser fals”, ha explicat. Per a Canton, és un canvi tecnològic i social: “La IA no només analitza el món, contribueix a produir-lo”.
Delegar, però no del tot
Canton ha posat un exemple de com la IA ja ha canviat les feines: gairebé ningú no programa, perquè s’ha delegat a la màquina i ens hem reconvertit en escriptors de prompts. Això, ha dit, ens fa més innovadors i productius, però comporta riscos: la desigualtat d’accés si les plataformes són cada cop més cares i, sobretot, la dependència cognitiva. La pregunta, ha apuntat, és fins a quin punt la IA t’ajuda i fins a quin et substitueix com a humà.
Per això ha insistit en el perill de delegar-ho tot. “No ho preguntis tot a ChatGPT, no necessites sempre la seva validació, has de pensar”, ha dit. Segons el ponent, cal apropar la IA a la ciutadania però formant esperit crític, en base a experiències que ell mateix ha viscut: “Avui jo mateix sóc incapaç de saber si un vídeo és IA o no, i m’hi he dedicat”.
Un moment de la conferència. Foto: A. C.
Una infraestructura, i una qüestió de sobirania
L’expert ha defensat que la IA no és un conjunt d’aplicacions puntuals, sinó una infraestructura horitzontal que acabarà sent com l’aigua o l’electricitat: un endoll a casa que donarà servei per al que calgui. Com a exemple de projecte per apropar-la al teixit productiu, ha citat l’AI Factory BCN del BSC, una iniciativa impulsada per la Secretaria d’Estat de Digitalització i Intel·ligència Artificial que vol facilitar l’accés de pimes, start-ups, institucions i administracions als recursos tecnològics, al coneixement especialitzat i als serveis d’acompanyament per incorporar la IA.
D’aquí ha passat a la sobirania. “Si la IA és americana o xinesa, què passa si ens prohibeixen fer-la servir? Com podem fer que Europa sigui sobirana?”, s’ha preguntat. Ha alertat de la dependència sistèmica d’una empresa que se sustenta en una sola plataforma, que pot quedar en una situació crítica si aquesta desapareix o en canvia les tarifes, i ho ha resumit en tres conceptes: monocultiu, opacitat i sobirania desplaçada.
“La geopolítica és el dia a dia de la IA”, ha afirmat. Ha comparat que un any de capacitat de càlcul a Europa equival a dos minuts de la d’OpenAI als Estats Units, i ha recordat que Nvidia val 5,4 bilions de dòlars i fabrica els xips a Taiwan amb màquines fetes en altres països. A més, el 70 % de les dades europees són als Estats Units.
David Bote, president del TecnoCampus, entre els assistents
Aliada o rival?
La resposta, segons Canton, depèn de com es dissenyi. La IA serà una aliada si permet ser més productius, amb persones ben connectades, però s’alimenta de dades humanes que són molt imperfectes. “Les dades reflecteixen i incorporen biaixos i pors humanes”, ha dit. Per això assegura que cal dissenyar la tecnologia amb una perspectiva responsable, humanista i deliberada, i que sigui inclusiva, transparent i robusta, amb algoritmes tan sòlids que no donin peu a errors que poden ser fatals (per exemple, en la navegació de cotxes de conducció automàtica).
També ha comparat la màquina amb el cervell humà: aquest té uns 100 bilions de paràmetres i consumeix 20 watts, mentre que l’ordinador més gran del món en té un bilió i en consumeix 10 quilowatts. “L’ésser humà és extremadament eficient”, ha dit, i el que importa és veure en què som complementaris. En capacitat d’emmagatzematge d’informació, ha reconegut, les màquines sí són superiors.
Saber parar, regular i desconcentrar
Per evitar que la IA es converteixi en una rival, Canton ha proposat diverses vies. La primera és posar el fre. “Per molt ràpid que anem, també hem de saber parar. La velocitat de la tecnologia no pot substituir el judici públic”, ha defensat. Ha recordat que la humanitat ha regulat l'ús d'armes atòmiques i ha acceptat no clonar humans, però que amb la IA encara no s’han tingut els debats sobre quins són els límits.
La segona és regular, amb normes clares i respectuoses amb el copyright. Europa ho ha fet així, ha dit, mentre que els Estats Units i la Xina són molt més laxos i han avançat més a costa de la protecció de dades. La tercera és desconcentrar, perquè ara tot és en mans de molt poques empreses, i hi ha una tensió entre el món públic i el privat, ja que els objectius de la humanitat i els de qui controla la IA sovint divergeixen. En aquest sentit, ha reclamat capacitat pròpia, com ara fàbriques de xips i gigafactories.
Canton ha tancat la ponència amb una crida a la responsabilitat col·lectiva: “No podem esperar que algú defineixi la IA del futur amb responsabilitat, ho hem de fer nosaltres”.