"No lo preguntes todo a Chatgpt; piensa por ti mismo y evita la dependencia cognitiva"

"Tenemos que forzar a la gente a pensar". Este ha sido uno de los mensajes centrales de la lección inaugural del curso en el TecnoCampus, donde Cristian Canton, director asociado del Barcelona Supercomputing Center (BSC), ha alertado de que la IA puede generar una dependencia cognitiva comparable a poner el GPS para ir a comprar el pan. Ante este riesgo, ha reclamado espíritu crítico y ha advertido de que Europa se enfrenta a un problema de soberanía tecnológica: "Quien más tecnología tiene, más soberanía tiene".

La ponencia, titulada Quo vadis IA? Pasado, presente y futuro de un mundo IA-céntrico, ha inaugurado este jueves día 15 el curso académico 2026-2027 en un acto en el foyer del Centro de Congresos, con intervenciones de cargos directivos del centro y del alcalde de Mataró, David Bote. Canton, con una larga trayectoria en multinacionales tecnológicas, ha hablado en un momento especial para el TecnoCampus: adscrito a la Universitat Pompeu Fabra y con cerca de 5.000 estudiantes de grado y posgrado, estrena este curso la titulación en IA y robótica aplicadas.

Una revolución sin precedentes en velocidad

Canton ha comenzado subrayando el ritmo del cambio. La IA generativa ha tenido un impacto social masivo en solo dos años o poco más desde su nacimiento, mientras que la Revolución Industrial necesitó decenas de años. "Esta velocidad de transformación no se ha visto nunca, y por lo tanto se tiene que hacer con mucho cuidado: hay que ser críticos, vigilar y hacer buen uso", ha dicho.

El experto ha recordado su etapa en Meta, donde llevaba el trabajo sobre IA responsable y ética. Allí llegó a plantear a Mark Zuckerberg que aquello que se hacía no estaba bien, y le advirtió de que la IA puede llevar a un escenario bueno o a uno malo. Ha explicado que, desde principios de la década pasada, esta tecnología ya mostraba sesgos, errores y una automatización opaca de juicios importantes: a menudo tomaba decisiones que nadie entendía por qué.

Qué aporta y dónde falla

Canton ha remarcado que la IA ya no solo analiza datos, sino que los genera, hasta el punto de hablarnos "como un humano" y conseguir convencernos. Entre los beneficios, ha destacado el enorme ganancia de productividad, la ayuda a la creatividad y la baja barrera de entrada: no hace falta saber programar ni tener hardware propio, y cualquier persona puede acceder a ella.

Pero también ha enumerado los problemas. La IA se equivoca y alucina generando falsedades y la desinformación crece y es escalable; en Meta, ha dicho, se encontraban con grandes volúmenes de información falsa. A esto se añade la degradación del criterio: "Responde de forma humana, y esto transmite veracidad porque suena bien, aunque puede ser falso", ha explicado. Para Canton, es un cambio tecnológico y social: "La IA no solo analiza el mundo, contribuye a producirlo".

Delegar, pero no del todo

Canton ha puesto un ejemplo de cómo la IA ya ha cambiado los trabajos: casi nadie programa, porque se ha delegado a la máquina y nos hemos reconvertido en escritores de prompts. Esto, ha dicho, nos hace más innovadores y productivos, pero comporta riesgos: la desigualdad de acceso si las plataformas son cada vez más caras y, sobre todo, la dependencia cognitiva. La pregunta, ha apuntado, es hasta qué punto la IA te ayuda y hasta qué punto te sustituye como humano.

Por eso ha insistido en el peligro de delegarlo todo. "No lo preguntes todo a ChatGPT, no necesitas siempre su validación, tienes que pensar", ha dicho. Según el ponente, hay que acercar la IA a la ciudadanía pero formando espíritu crítico, en base a experiencias que él mismo ha vivido: "Hoy yo mismo soy incapaz de saber si un vídeo es IA o no, y me he dedicado a ello".

Una infraestructura, y una cuestión de soberanía

El experto ha defendido que la IA no es un conjunto de aplicaciones puntuales, sino una infraestructura horizontal que acabará siendo como el agua o la electricidad: un enchufe en casa que dará servicio para lo que sea necesario. Como ejemplo de proyecto para acercarla al tejido productivo, ha citado la AI Factory BCN del BSC, una iniciativa impulsada por la Secretaría de Estado de Digitalización e Inteligencia Artificial que quiere facilitar el acceso de pymes, start-ups, instituciones y administraciones a los recursos tecnológicos, al conocimiento especializado y a los servicios de acompañamiento para incorporar la IA.

De aquí ha pasado a la soberanía. "¿Si la IA es americana o china, qué pasa si nos prohíben usarla? ¿Cómo podemos hacer que Europa sea soberana?", se ha preguntado. Ha alertado de la dependencia sistémica de una empresa que se sustenta en una sola plataforma, que puede quedar en una situación crítica si esta desaparece o cambia sus tarifas, y lo ha resumido en tres conceptos: monocultivo, opacidad y soberanía desplazada.

"La geopolítica es el día a día de la IA", ha afirmado. Ha comparado que un año de capacidad de cálculo en Europa equivale a dos minutos de la de OpenAI en Estados Unidos, y ha recordado que Nvidia vale 5,4 billones de dólares y fabrica los chips en Taiwán con máquinas hechas en otros países. Además, el 70 % de los datos europeos están en Estados Unidos.

¿Aliada o rival?

La respuesta, según Canton, depende de cómo se diseñe. La IA será una aliada si permite ser más productivos, con personas bien conectadas, pero se alimenta de datos humanos que son muy imperfectos. "Los datos reflejan e incorporan sesgos y miedos humanos", ha dicho. Por eso asegura que hay que diseñar la tecnología con una perspectiva responsable, humanista y deliberada, y que sea inclusiva, transparente y robusta, con algoritmos tan sólidos que no den pie a errores que pueden ser fatales (por ejemplo, en la navegación de coches de conducción automática).

También ha comparado la máquina con el cerebro humano: este tiene unos 100 billones de parámetros y consume 20 vatios, mientras que el ordenador más grande del mundo tiene un billón y consume 10 kilovatios. "El ser humano es extremadamente eficiente", ha dicho, y lo que importa es ver en qué somos complementarios. En capacidad de almacenamiento de información, ha reconocido, las máquinas sí son superiores.

Saber parar, regular y desconcentrar

Para evitar que la IA se convierta en una rival, Canton ha propuesto varias vías. La primera es poner el freno. "Por muy rápido que vayamos, también tenemos que saber parar. La velocidad de la tecnología no puede sustituir el juicio público", ha defendido. Ha recordado que la humanidad ha regulado el uso de armas atómicas y ha aceptado no clonar humanos, pero que con la IA todavía no se han tenido los debates sobre cuáles son los límites.

La segunda es regular, con normas claras y respetuosas con el copyright. Europa lo ha hecho así, ha dicho, mientras que Estados Unidos y China son mucho más laxos y han avanzado más a costa de la protección de datos. La tercera es desconcentrar, porque ahora todo está en manos de muy pocas empresas, y hay una tensión entre el mundo público y el privado, ya que los objetivos de la humanidad y los de quien controla la IA a menudo divergen. En este sentido, ha reclamado capacidad propia, como fábricas de chips y gigafactorías.

Canton ha cerrado la ponencia con una llamada a la responsabilidad colectiva: "No podemos esperar que alguien defina la IA del futuro con responsabilidad, lo tenemos que hacer nosotros".