Cristina Sanjuan Guaita es doctora en Ingeniería Industrial y licenciada en Filosofía, una doble formación que resume bien su manera de mirar la tecnología. Dirige el Máster en Filosofía de la Inteligencia Artificial de la Universidad Pontificia Comillas, que arranca su primera edición en enero de 2027 en la Facultad de Ciencias Humanas y Sociales. Es un máster que nace para juntar dos mundos que necesitan ir de la mano, el de quienes construyen la tecnología y el de los que tienen herramientas para pensarla, y que se articula en tres partes: la técnica, la filosofía y el impacto social, ético y político de la IA. En él imparte además la asignatura Filosofía aplicada al mundo tecnológico. Compagina la dirección académica con su trabajo de directiva en Arup, donde dirige el departamento de servicios digitales e IA, con un enfoque en ciudades e infraestructuras inclusivas, resilientes y sostenibles.
Hemos tenido el placer de charlar con ella sobre algunas cuestiones relacionadas con su trabajo y con este posgrado, tan necesario en estos tiempos de incertidumbre sobre la Inteligencia Artificial. A continuación te dejamos la entrevista.
Pedro Ortega: Tu formación une ingeniería y filosofía, y diriges equipos de servicios digitales e IA. Cuando tienes que decidir si una solución tecnológica es buena, ¿qué valores aporta la filosofía que quizá no te habrías planteado solo desde la ingeniería?
Cristina Sanjuan: Desde la ingeniería sabemos responder muy bien a dos preguntas: ¿funciona? ¿Es eficiente? Mi trabajo es hacer infraestructuras y ciudades más inclusivas y resilientes, y ahí la filosofía me obliga a preguntar antes: ¿para qué funciona, en realidad? ¿Quién paga lo que no sale en el presupuesto?
En Leonia, Nueva Jersey, aplicaciones de navegación como Waze o Google Maps empezaron a mandar a miles de conductores por sus calles residenciales para ahorrarse unos minutos de atasco, y el pueblo se colapsaba en hora punta. ¿Quién se queda atrás? Una alerta por calor que solo llega por app no llega a la persona mayor sin smartphone. ¿Se usará para lo que se dice? En San Diego, unas farolas inteligentes instaladas para medir el tráfico acabaron sirviendo sobre todo a la policía.
Funcionar es lo mínimo. Una buena solución es la que sigue pareciéndolo vista desde los que no decidieron.
PO: En tu trabajo buscas que las ciudades y las infraestructuras sean inclusivas. ¿Qué te ha enseñado esa experiencia sobre las personas que pueden quedar fuera de la planificación por las decisiones que tomamos cuando diseñamos tecnología?
CS: Que toda infraestructura decide, sin decirlo, quién puede hacer qué. Fernando Broncano lo explica bien: un diseño abre posibilidades, pero solo para quien tiene capacidades para aprovecharlas. Una escalera es un camino para unos y un muro para quien va en silla de ruedas.
En Arup trabajamos estas cuestiones desde distintas perspectivas: la infancia, la vejez, la experiencia de las mujeres. Me gusta mucho una pregunta de la Fundación Bernard van Leer: ¿cómo verías la ciudad si midieras 95 centímetros? De repente, los tubos de escape te dan en la cara y cruzar una avenida es una aventura.
Ese cambio de perspectiva también hace falta al diseñar tecnología. Un servicio que exige una app, un certificado digital y buena conexión no excluye necesariamente a propósito. Simplemente se diseñó en la cabeza de alguien que tenía todo eso.
PO: La IA aprende de datos producidos por nuestras sociedades. ¿Quién decide qué parte de nuestro pasado, nuestra historia, queda representada en ellos y qué ocurre con las personas o los hechos que son ignorados o malinterpretados?
CS: Muchas veces nadie decide expresamente quién queda fuera. Pero alguien decide qué registrar, cómo y para qué, normalmente por razones de negocio o de gestión. Los datos tienen esa historia, aunque después los tratemos como neutrales. Un conjunto de datos enorme puede representar muy mal ciertas experiencias. Y el problema se agrava cuando sus resultados alimentan las decisiones siguientes. Si una encuesta de movilidad apenas recoge los viajes de cuidado, se diseña un transporte que no los atiende; quienes los realizan lo usan menos y los nuevos registros vuelven a confirmar su escasa presencia. El sistema refuerza su propio punto ciego. La IA puede acelerar ese proceso: aprende de datos incompletos y sus decisiones influyen en los datos futuros. Por eso, antes de preguntar qué dicen los datos, conviene preguntar quién los recogió, para qué y quien no está representado en ellos.
PO: Si un sistema aprende principalmente del conocimiento pasado, ¿qué pueden aportar la cultura y las humanidades para plantear respuestas que todavía no se encuentran en los datos?
CS: Un sistema que aprende del pasado tiende a repetirlo. Daniel Innerarity lo dice sin rodeos: los algoritmos predictivos son conservadores, porque suponen que el futuro será una reproducción del pasado. Y pone un ejemplo: ningún algoritmo habría generado el #MeToo, que fue justamente una ruptura con lo que había.
Ahí entran la cultura y las humanidades: no como adorno, sino como el lugar donde una sociedad ensaya futuros que no son la prolongación del presente. Un algoritmo puede ayudarnos a anticipar qué es probable. Decidir qué queremos y por qué merece la pena exige deliberación. Las humanidades aportan conceptos, memoria e imaginación para esa conversación.
PO: Cuando un órgano directivo tiene que decidir sobre la implantación de una IA y la tecnología cambia más deprisa que sus procedimientos, ¿cómo se adopta un criterio de actuación? ¿Quiénes han de participar en esa conversación y qué cuestiones se deben tener en cuenta?
CS: El criterio empieza por definir el resultado. Una organización no necesita «una IA»: necesita mejorar un servicio, reducir errores o resolver un problema. Si el objetivo es implantar IA, contará proyectos; si es mejorar un servicio, tendrá que comprobar si lo ha conseguido. A veces descubrirá que la mejor solución era otra. Después hay que entender qué se entrega a cambio. Adoptar IA puede cambiar la forma de trabajar, crear dependencia de un proveedor y comprometer recursos. Antes de decidir, haría tres preguntas: ¿qué capacidad estamos delegando y si podríamos recuperarla?, ¿qué ocurre si cambian las condiciones del proveedor?, ¿qué costes humanos y ambientales asumimos? En esa conversación deben participar quienes definen los objetivos, quienes entienden la tecnología, quienes responden legalmente y los equipos cuyo trabajo va a cambiar. También quienes vivirán con las consecuencias. La velocidad obliga a revisar las decisiones. Conviene establecer desde el principio cómo evaluaremos el sistema y en qué circunstancias lo modificaríamos o dejaríamos de usarlo.
PO: En Europa contamos con un Reglamento de IA cuyas obligaciones se aplican por etapas. ¿En qué ayuda ese marco a quienes tienen que decidir hoy en día y qué cuestiones deben seguir resolviendo con su propio juicio más allá de esta regulación?
CS: El Reglamento es como el Código Técnico de la Edificación: imprescindible, pero ningún arquitecto confunde cumplirlo con hacer una buena casa. Garantiza que el edificio no se caiga, no que sea un buen lugar para vivir.
Ayuda mucho: da un lenguaje común, clasifica los usos por riesgo y marca líneas rojas en vigor desde 2025. Pero tiene su ritmo: las obligaciones para los sistemas de alto riesgo se han aplazado a diciembre de 2027, y a 2028 para la IA integrada en productos. Mientras tanto, las organizaciones deciden cada día.
El Reglamento de IA ofrece un marco común de riesgos, obligaciones y límites. Ayuda a ordenar las decisiones y a exigir responsabilidades. Pero no puede resolver qué relación quieres mantener con tus clientes, qué se pierde al automatizar un trato humano o qué conocimiento necesitas conservar dentro de tu organización.
Cumplir es el suelo. Sobre él actúan los valores y la cultura: por eso dos organizaciones sujetas a las mismas reglas pueden utilizar una tecnología de formas muy distintas. Antes de decidir qué puede hacer una IA por nosotros, tenemos que decidir qué tipo de organización queremos ser.
PO: Ese reto se complica cuando una empresa o institución trabaja en varios países. ¿Cómo se mantiene un criterio coherente sobre la IA ante enfoques distintos, como los de Europa, Estados Unidos y China?
CS: Yendo a los valores. Las leyes son territoriales y la IA funciona en red, como anticipó Javier Echeverría. Europa regula por riesgos y derechos, Estados Unidos prioriza la innovación y China combina política industrial con normas muy concretas. Si tu coherencia depende de ese mapa, acabas siendo tres empresas con tres morales.
La ley es el suelo, no lo que decidimos ser. Con la sostenibilidad y la protección de datos ya tenemos experiencia. Microsoft, por ejemplo, anunció que extendería los derechos del reglamento europeo de protección de datos a todos sus usuarios. Mantener un criterio común también puede simplificar la operación y generar confianza.
Para poner a prueba ese criterio me sirve una imagen de Donella Meadows: quien toma agua de un río debería situarse aguas abajo de su propio vertido. Con la IA preguntaría lo mismo: ¿aceptarías vivir aguas abajo de este sistema, recibir sus decisiones y soportar sus errores? Esa pregunta debe acompañarte en cualquier país.
PO: Quienes conocimos un mundo sin IA podemos comparar cómo pensábamos y decidíamos antes con lo que está sucediendo hoy. ¿Qué cuestiones estamos empezando a delegar en estas herramientas sin haber meditado todavía sus consecuencias?
CS: Estamos delegando parte de la forma de organizar nuestra experiencia, a menudo sin advertirlo. Luciano Floridi explica que adaptamos el mundo para que las máquinas puedan funcionar en él. Con la IA conviene preguntarse cuánto estamos reorganizando el trabajo, la educación o las relaciones para ajustarlos a lo que los sistemas saben procesar. Hay otra transformación más sutil, nos dice este autor: las cosas cambian aunque sigamos llamándolas igual. Un libro de papel no sabe nada de ti. Una plataforma de lectura puede registrar qué lees, cuándo paras y qué subrayas. La lectura sigue siendo lectura, pero también se ha convertido en información sobre ti. Algo parecido ocurre con una «conversación», un «amigo» o un «trabajo escrito». La familiaridad de las palabras puede ocultarnos cuánto ha cambiado la experiencia.
PO: ¿Por qué decidió Comillas crear ahora un Máster en Filosofía de la Inteligencia Artificial desde Humanidades? ¿Qué esperas que cambie en la manera de pensar y decidir de quienes lo cursen, tanto si ya tienen experiencia profesional como si acaban de terminar sus estudios? Y al cabo de esto, ¿encuentras alguna relación entre ese propósito y las reflexiones de Magnifica Humanitas sobre la dignidad humana ante la IA?
CS: El máster nace para que podamos comprender y gobernar el cambio mientras ocurre. Su lugar en Humanidades es deliberado. La IA está transformando el trabajo, el conocimiento y las relaciones; necesitamos entender tanto su funcionamiento como las ideas de persona y de sociedad que incorpora. Si nadie más piensa, piensa el modelo de negocio.
Espero que quienes lo cursen aprendan a examinar lo que se les presenta como inevitable. A quienes ya tienen experiencia, el máster les dará conceptos, argumentos y distinciones para revisar sus decisiones. A quienes empiezan, una formación que conecte comprensión técnica y criterio filosófico.
Veo ahí la relación con Magnifica Humanitas: la dignidad humana como criterio para juzgar el desarrollo tecnológico y la responsabilidad de las universidades de participar en esa reflexión. Un máster de filosofía de la IA en una Universidad Pontificia de Comillas es la forma de recoger esa invitación.
PO: El máster tiene tres módulos y un proyecto integrador basado en un caso real ¿Qué fundamentos adquiere una persona al cursar esta formación que le ayuden tomar decisiones sobre IA, tanto si está empezando su carrera como si ya ocupa un puesto con responsabilidades?
El fundamento principal es aprender a ver el sistema entero. Nadie usa «la IA» en abstracto: usa un producto, de una empresa, con un modelo de negocio, una infraestructura y unos datos. Entender esas relaciones permite valorar alternativas. Lo que tenemos son productos, no un destino tecnológico. Los tres módulos aportan comprensión técnica, herramientas filosóficas y criterios éticos y políticos. El proyecto integrador reúne esas perspectivas en un caso real: obliga a definir el problema, contrastar intereses y justificar una propuesta. Ahí se aprende algo esencial: a reformular una pregunta antes de apresurarse a responderla.
PO: Para concluir, ¿qué te gustaría oírle decir a una persona egresada cuando vuelva a su organización o inicie su vida profesional y se siente en una mesa donde se adoptan criterios sobre la IA?
CS: Me gustaría oírle decir, antes de que nadie hable de proveedores o de plazos: «Un momento. ¿Quién no está representado en esta mesa y va a vivir con lo que decidamos?».
Los niños, los ancianos, el planeta o las generaciones venideras no se sientan donde se diseña una calle, ni suelen estar quienes recibirán la decisión de un algoritmo: quien pide una ayuda, quien opta a un empleo. Hacer esa pregunta no es frenar; es cambiar la información que llega a quien decide, uno de los puntos de más palanca de un sistema. Y me gustaría que la pregunta tuviera consecuencias: que alguien fuera a buscar esas voces y que escucharlas pudiera cambiar la decisión. Si una persona egresada consigue eso, el máster habrá cumplido su propósito.
PO: ¿Quieres añadir algo más? Muchas gracias por tus respuestas.
CS: Solo una cosa. La IA se nos presenta como algo que simplemente sucede, como el tiempo que hace. Pero no es el clima, es una obra: tiene promotores, financiadores, planos, normas y usuarios. Y lo que se construye se puede pensar, discutir y gobernar. Para eso hacemos el máster, cuya primera edición empieza en enero de 2027.
PO: Muchas gracias por tus respuestas.
Máster en Filosofía de la Inteligencia Artificial
Estudia en Madrid un máster presencial sobre filosofía, ética, gobernanza e impacto social de la inteligencia artificial.
