Loading summary
Transcript120 lines
- [00:00]
A
No sé, tú eres muy optimista con los humanos. Yo tengo mis dudas.
- [00:04]
B
Es que no hay otra cosa, No tenemos otra especie. Estas son las cosas con las que tenemos que bregar.
- [00:12]
A
Es verdad. Esto sí que no cambiará. Hola, soy Marta García Ayer y vamos a hacer una pausa, una para preguntarnos a nosotros los humanos, por el lenguaje que utilizamos y el que utilizan las máquinas que nos hablan a los humanos. Porque tenemos máquinas que hablan. La primera creo que fue una máquina de tabaco, la primera que yo recuerdo, o una calculadora. Ahora se lo pregunto a nuestra invitada de hoy, que seguro que lo sabe porque lleva muchos años enseñándole a hablar a las máquinas, desde antes incluso de que las máquinas hablaran. En este siglo las máquinas han aprendido a hablar como los humanos, muy parecido, mucho más allá de aquel su tabaco. Gracias. Y lo preocupante no es eso, Lo preocupante a lo mejor es que los humanos empezamos a hablar como máquinas, porque el lenguaje condiciona cómo recordamos las cosas, cómo las pensamos. Y a lo largo de la historia de la humanidad los idiomas se han ido influyendo mucho unos a otros. Tenemos muchos anglicismos, por ejemplo, tendremos en el futuro mucho chatgptecismo. ¿Qué pasa cuando hablamos con la IA? ¿Entiende realmente lo que decimos o solo lo parece? ¿Y cómo hacer para que la inteligencia artificial ayude más en la educación y en el desarrollo de las capacidades humanas y que no nos vuelva más tontos o peor hablados? ¿La IA puede ayudar a preservar idiomas en peligro o puede acabar reforzando solo las lenguas dominantes? ¿Y qué está pasando con el español en la era de la inteligencia artificial? ¿Traerá la IA el fin de los idiomas o el fin de los traductores? ¿Y qué matices del lenguaje humano siguen siendo imposibles para las máquinas, si es que hay alguno, ¿Y qué habilidades serán más valiosas dentro de 10 años, cuando sea habitual que todos nos ayudemos de la inteligencia artificial? Pues ahora lo hablamos con Pilar Manchón, una de las voces más influyentes del mundo en lingüística computacional e inteligencia artificial, recién llegada de Mountain View, de Silicon Valley, donde trabaja como directora de estrategia de investigación en inteligencia artificial de Google desde 2019. Y no sé si se acordará, Pilar, pero yo la conocí antes de eso. Ahora te lo pregunto, Pilar, pero antes, antes te voy a contar una historia, la de la vez que yo visité la sede de Google en Mountain View, en California, hace casi una década. Recuerdo que era un campus ideal, lleno de jardines, bicis de colores y jóvenes en patinete que iban con su perro a trabajar, todo como sacado del Show de Truman, canchas de voleibol y salas de descanso con más variedades de snacks que un aeropuerto. Eso sí, no recuerdo haber visto nadie que las utilizara. Aunque la parte que me pareció más curiosa de la sede de Google fue una que seguramente pasa inadvertida a cualquier visitante. Estaba en la entrada a uno de los múltiples comedores y si no te fijabas, podías pasar por alto que en mitad de una pared acristalada, a la altura del segundo o tercer piso, había unas puertas de madera abiertas. Pero unas puertas ahí, perdidas en lo alto de una pared, unas puertas que no iban a ningún sitio y que no había forma de acceder a ellas porque detrás había una pared. ¿Qué hacían unas puertas abiertas en mitad del vacío? Esa es exactamente la pregunta que, por lo visto en Google, quería que se hiciera el inconsciente de sus empleados cuando pasaban por allí para activar algo así como el pensamiento creativo en búsqueda de soluciones, o eso fue lo que me contaron. Y mira, esa es una de las cosas que la inteligencia artificial no tiene todavía, el inconsciente. Porque la conciencia, o eso que los humanos llamamos conciencia, es algo que las máquinas que hablan y que utilizan el lenguaje cada vez imitan mejor. Yo recuerdo aquella puerta pilar como un gran misterio. ¿Qué hace ahí esa puerta? No sé si tú cuando vas a trabajar la ves, esa trampa, ese jeroglífico que estaba y entonces sigue estando.
- [04:18]
B
La verdad es que no, no tengo la puerta en mi oficina. Yo trabajo en un edificio que se llama Gradient Canopy, que es uno de los edificios nuevos y que es una obra de arte de He pasear por ese edificio es casi como una ciudad interior con arte, con muchos colores, todos los colores de Google y con todas esas cosas que tú has escrito antes. Pero no hay puertas que nos vayan.
- [04:42]
A
Yo recuerdo aquello, no iba a ningún sitio y me decían, sí es que alguien. Supongo que en Recursos Humanos, que siempre estarán pensando cosas, aunque seguro que en Google Recursos Humanos no se llama Recursos Humanos porque seguro, como no paran de buscarle nombres a las cosas, ahora que las máquinas están aprendiendo a hablar, los humanos tenemos que buscarnos cosas para diferenciarnos de ellas. Claro.
- [05:03]
B
Bueno, sí, depende depende de qué queramos hacer, pero yo creo que estamos en un momento muy emocionante y muy humano.
- [05:10]
A
Es verdad, ahora hablaremos de eso. Pero ¿Te acuerdas? ¿Te acuerdas de que tú y yo nos conocíamos? La pregunta es trampa, es un poco a pillar. Es la más difícil de toda la entrevista.
- [05:20]
B
Pues la verdad es que si. ¿Me das una pista o algo?
- [05:23]
A
Pues fíjate, yo cuando hablé contigo todavía tenías un acento sevillano mucho más marcado.
- [05:31]
B
Bueno, entonces tiene que hacer unos añitos.
- [05:34]
A
Hace unos años, sí. Hace unos años yo trabajaba en Actualidad Económica y ya hacía temas de este tipo y tú tenías una startup, o sea, que era antes. Tu salto a Silicon Valley se ha quedado en España, Estabas aquí y me acuerdo de que me explicabas que en la próxima década, o sea, en esta, las máquinas hablarían. Y entonces era como hablar del futuro, decías. Sí, sí, que se iba a convertir en la protagonista indiscutible de la comunicación y de la tecnología, que la oralidad iba a ser fundamental en nuestras vidas. Y todo esto tú lo decías, una lingüista, que supongo que te preguntarían, ¿Pero qué hace una lingüista haciendo computación entonces? Antes no era tan fácil de entender como ahora, que para la inteligencia artificial y para la computación del futuro el lenguaje iba a ser clave.
- [06:31]
B
Entonces parece que mi predicción se hizo realidad. Creo que acerté.
- [06:37]
A
Vaya si se cumplió.
- [06:38]
B
Tuviera la misma capacidad con la lotería,
- [06:40]
A
Siri empezaba a existir. Pero recuerdo que había mucho orgullo en esa startup española que decías, no, es que la nuestra es mejor, no lo
- [06:50]
B
hicimos nada mal y compitiendo con Siri, Bueno, si, era más grande y venía del Silicon Valley, pero nosotros lo hacíamos mejor y por eso nos compró Intel, aunque luego ya el producto que Intel iba a sacar no salió. Pues porque yo creo que tampoco era una buena idea que Intel sacará su propio teléfono. Y bueno, decidieron no sacarlo, pero eso no quita que la tecnología no estuviera al máximo de lo que había en ese momento.
- [07:17]
A
La verdad que es fascinante. He estado revisando aquellas notas de nuestras entrevistas. Es bonito ver cómo las cosas que entonces eran una proyección basada en la ciencia y en la tecnología que tenías en la mano, ahora ya a nadie le sorprende que podamos hablar con un teléfono, no a través del teléfono, sino con el teléfono, o hablar con otros muchos aparatos, o con la inteligencia artificial que cada vez está más integrada en nuestras vidas y el lenguaje natural en
- [07:45]
B
sí mismo y la voz. Y ya para todo el mundo es mucho más sencillo ver cómo nuestro propio lenguaje y la voz en sí se están convirtiendo en los medios de hacer todo prácticamente.
- [07:59]
A
¿Y a ti hay alguna parte que te inquiete del uso de la voz, del uso de cómo las máquinas, gracias a la inteligencia artificial, lo que antes parecía ciencia ficción ya es cotidiano, que es hablar con una máquina que? Que se comunica de una manera con tanta fluidez como una persona. De hecho hay gente que empieza a confundir ese modelo de lenguaje con la conciencia, con esta broma que te hacía al principio. No es lo mismo que hablen como los humanos a que entiendan como los humanos. Hay confusión con esto.
- [08:35]
B
Sí, tienes toda la razón. De hecho, yo siempre hablo de la inteligencia artificial como un actor, un actor que emula muy bien el personaje para el que está diseñado hacer esa actuación y lo emula también, que a veces te da la sensación de que hay algo más detrás. Pero la realidad es que hasta donde sabemos, con los algoritmos que tenemos y demás, ahora mismo la inteligencia artificial es simplemente una emulación de comportamientos en base a datos con los que ha sido entrenado. No hay un trasfondo más allá que se pueda considerar conciencia o sin ciencia o nada parecido, por lo menos desde mi punto de vista.
- [09:18]
A
Bueno, tú estás ahí en el cerebro de la.
- [09:21]
B
Hay muchas opiniones. En mi opinión todavía no hemos llegado y en el paradigma tecnológico en el que estamos no vamos a llegar a ese punto, creo. Yo creo que más computación y más datos no nos van a llevar a la siguiente generación. Vamos a seguir mejorando, mejorando, pero tiene que haber otras disrupciones tecnológicas que nos lleven a un paradigma distinto donde podamos alcanzar todavía un mayor grado de sofisticación.
- [09:45]
A
Lo que pasa es que, claro, desde aquellas máquinas de tabaco que empezaban a hablar hasta poder tener una conversación, como mucha gente hace, con un chatbot, como si fuera un terapeuta para contarle sus problemas vitales, no han pasado tantos años de eso.
- [10:03]
B
Si recuerdas, hemos estudiado inteligencia artificial o hemos leído un poquito sobre la historia, pues muchas veces recuerdas ese primer concepto que era el AISA, que realmente mantenía una conversación, pero todo lo que hacía era sí, y repetir lo último que habías dicho. Así que tu madre. Sí. Entonces eran conversaciones que durante un rato digamos, pues sí que la gente parecía que daba el pego totalmente. Entonces era el primer concepto de cómo podemos fingir lo suficiente para que la otra persona piense que se le está escuchando, que se la está enterando.
- [10:43]
A
Los humanos lo hacemos todo el rato.
- [10:45]
B
Efectivamente. Sobre todo cuando aprendes un segundo idioma y no te estás enterando, aprendes a leer. Oh, yes.
- [10:54]
A
Eso es lo que hace la IA con nosotros, nos hace sentir que nos entiende, pero nos está siguiendo el rollo.
- [11:00]
B
No, no, eso era los primeros conceptos de cuando estábamos elucubrando como sociedad qué podía ser eso de la inteligencia artificial y todo el mundo conoce el AISA como un experimento casi intelectual. Y luego eso llevó a lo primero, se empezó a pensar que podían ser los primeros test de cómo íbamos a conseguir que la inteligencia artificial se comunicara tanto como un humano. Y ahora esos test ya no tienen sentido, porque ahora sí que se comunica como un humano, pero todavía no llega a hacer todas las tareas cognitivas que puede hacer un humano. Entonces ya se ha subido la vara y ahora el listón está en lo que llamamos inteligencia artificial general, que desde Google la definimos como un agente o un sistema de agentes, digamos, un sistema en general que tenga la capacidad de hacer múltiples tareas cognitivas igual o mejor que un humano sin tener el grado de especialización que ahora tenemos. Ahora tenemos una que lo hace muy bien, pero hace una cosa muy bien, pues que puede hacer muchas cosas, casi todas las cosas que podría hacer un experto humano cognitivamente.
- [12:09]
A
Y tú viniendo, Pilar, como vienes del futuro, ¿Cuáles son esas capacidades humanas que a priori, o al menos hoy por hoy, descartarías que la ia pueda hacer? ¿Dónde crees que está ese umbral de lo puramente humano?
- [12:27]
B
Bueno, en el paradigma que estamos actualmente, con las tecnologías que tenemos a día de hoy, yo creo que todo lo que sea la parte emocional, la parte más subjetiva, la parte que en realidad nos define más como humanos, esa parte no es inteligencia artificial. Estamos hablando la inteligencia artificial que emula alguna de esas otras inteligencias que nosotros tenemos, la inteligencia social, emocional y ese tipo de cosas, pero que a día de hoy no es real tal y como la entendemos nosotros. Es real en el sentido que la puedes utilizar para dar un servicio, pero no es real en el sentido de la consciencia humana, en el sentido de cómo nosotros la sentimos, la percibimos y la percibimos en otras personas no es
- [13:16]
A
real, pero el simulacro a mucha gente le vale, cada vez hay más gente teniendo una relación sentimental con una IA que le dice te quiero y no será cierto, pero el simulacro a muchos humanos ya les vale, o sea, esa diferencia entre lo que es capaz de hacer y lo que parece que es capaz de hacer no sé si nos va a seguir importando mucho tiempo a
- [13:38]
B
los humanos Bueno, es la misma diferencia entre un original y una copia, en la que la copia es tan buena o tan parecida al original que necesitas un experto para analizarlo pero no lo sabes, sin embargo el original sigue valiendo más que la copia, o sea que
- [13:52]
A
es el top manta de las relaciones
- [13:55]
B
pues no sé si sería el top manta de las relacioneS, pero bueno, es una buena analogía. Yo creo que lo importante es saber que la inteligencia artificial ni siente ni padece, entonces cuando hablamos de cosas como la empatía, la empatía es una emulación de la empatía humana y está más destinada a dar un servicio que nosotros necesitamos, porque cuando hay determinadas situaciones si no existe la empatía nos sentimos mal, es una necesidad que tenemos como seres humanos, pero no significa que la inteligencia artificial tenga esa empatía ni lo sienta de ninguna manera, ni tenga una motivación, ni tenga otra cosa que no sea lo propio de los objetivos que han sido programados o que se generan a partir de los datos con los que ha sido entrenada.
- [14:41]
A
¿Y desde el punto de vista laboral? En lo laboral, que ahora veo mucha gente preocupada por los empleos, pero también por qué pueden estudiar sus hijos, que pueda, no sé si garantizar, es una palabra que ya podemos utilizar, asociada en la misma frase a mercado laboral, pero abrirles puertas en un mundo, en un mercado laboral tan cambiante como este es algo que creo que está preocupando cada vez a más gente. ¿Qué tipo de desarrollo profesional tiene futuro en un momento como este? Porque hace diez años, cuando las máquinas todavía no hablaban como ahora, la programación era algo que todo el mundo decía no, no, los niños que estudien inglés y programación y ahora tenemos a la IA que te traduce automáticamente y te programa las cosas, pues a ver, mejor estudiar lingüística tenía más futuro, ¿Quién lo iba a decir?
- [15:33]
B
Bueno, yo creo que lo más importante es entender que la educación es un viaje interminable y que ¿Qué interesa aprender ahora? Pues interesa aprender a aprender, lo más importante es saber adaptarse, lo más importante es poder adquirir nuevas capacidades de manera muy rápida entender que el mundo está cambiando muy rápido. Entonces toda esa formación técnica que antes se quería todavía sigue siendo útil. Si vamos a avanzar en la inteligencia artificial, tendrá que haber gente que entienda cómo funciona, cómo se programa, cómo se llega a la próxima generación y que utilice la inteligencia artificial precisamente como un compañero de viaje, como alguien que te ayuda, que te asiste, con el que estás trabajando para ampliar tus propias capacidades. Todo lo que son las habilidades que nos permiten gestionar cosas con personas, esas habilidades las vamos a necesitar siempre. De hecho, en muchas universidades americanas se está empleando, se está centralizando o enfocando la educación en cosas como mindfulness. Es decir, cómo gestionas tus propios pensamientos, cómo gestionas mejor tus propias emociones, cómo puedes ser más tú, a desconectar del
- [16:56]
A
mundo exterior para conectar contigo, conectar contigo
- [16:59]
B
para poder hacer las cosas mejor y ser más feliz y no depender tanto de los estímulos exteriores. Es decir, avanzar en tu humanidad. Entonces, el tema del mindfulness te lo decía porque por ejemplo, mi hijo está estudiando en Berkeley y a mí me sorprende y me alegra que tengan muchas asignaturas, un número considerable asignaturas que les ayuda a ellos a gestionar mejor su humanidad, a controlar mejor tus pensamientos, a cómo puedes utilizar tu cerebro de una manera más eficiente. No es ya solamente cómo utilizar la inteligencia artificial, es cómo aprender a entendernos a nosotros mismos.
- [17:38]
A
Y esto de que en Silicon Valley la gente no educa a sus niños en coles con pantallas, ¿Cuánto tiene de mito y cuánto de realidad?
- [17:45]
B
Ahora en 2026 sí que hay colegios específicos que no utilizan pantallas, pero los colegios públicos, mi hijo fue a un colegio público que estaba muy bien y que sacan normalmente buenos resultados y sí que tenían pantallas, tenían las tablets de Google. Así que han estado desde el primer momento utilizando tecnología. Eso sí, se preocupa uno mucho de que no solamente utilicen la tecnología, sino que desarrollen, por ejemplo, el tema de la escritura a mano y otro tipo de capacidades que son también muy importantes a la hora de crecer personalmente y a nivel educativo.
- [18:25]
A
¿Y cómo crees que debería cambiar la educación cuando todo el mundo tiene acceso a la IA? Porque muchas veces cuando hablamos de la inteligencia artificial en la educación es como desafío a los profesores para que los alumnos no copien todo, no le haga la máquina los deberes que tenían que haber hecho ellos a mano. Hay diferentes teorías. Si tienen que presentarse más trabajos a mano, si los exámenes deberían ser orales, ¿Cómo debería cambiar la educación en un formato en el que no sé si la memorización de contenidos, ya no teniendo Google para buscar los resultados, como venimos teniendo los últimos 20 años, sino la IA que genere pensamientos o ideas nuevas a mano, tendría que cambiar la educación?
- [19:10]
B
Bueno, la educación está cambiando ya y de hecho nosotros estamos trabajando mucho en esa dirección y colaborando con profesores y alumnos, estudiantes, para ver cómo podemos ofrecer mejores herramientas y cómo tiene que evolucionar el sistema educativo para aprovecharse de las ventajas y las capacidades que te trae la inteligencia artificial, que es un multiplicador. ¿Y qué más tenemos que hacer? ¿Cómo podemos proporcionar otro tipo de herramientas, mejoras y demás, Siempre escuchando, siempre evolucionando, siempre cambiando? Yo creo que como de la misma manera que antes definíamos que la educación es un viaje infinito, que te vas adaptando y que esa es una de las capacidades que tienes que tener, pues igual nosotros tenemos que ir adaptando las tecnologías y las herramientas precisamente para que vayamos coevolucionando.
- [20:01]
A
Claro, esa es la teoría pilar. Pero luego tenemos el mundo real. Y entiendo que la IA tiene un potencial enorme de fomentar la curiosidad y de abrirnos puertas y de llevar la creatividad humana a nuevos lugares, pero también tiene la capacidad de resolverte el resumen del CID en un segundo y, digamos, ir erosionando el espíritu crítico, la capacidad humana. Y hay estudios, de hecho, que muestran cómo quienes utilizan mucho la IA en sus tareas diarias acaban poco menos que atrofiando una parte del cerebro porque no están haciendo ellos un trabajo mental que antes era humano y que ahora lo podemos delegar. Como el no saber cambiar la rueda del coche, que yo no sé tú, pero yo desde luego no sabría cambiar la rueda del coche cuando se pincha, porque ya tienes quien venga y lo solucione. Sin embargo, era algo que cualquier conductor sabía que tenía que hacer. Estamos perdiendo la costumbre de hacer cosas. Y no sé si ves riesgo en que el mal uso de la IA, utilizarlo como atajo a lo vago que es, como los humanos hacemos las cosas para ahorrarnos esfuerzos, puede hacer que la IA no sea un trampolín para llevar la mente humana a lugares increíbles, sino para que nos volvamos todos un poco como en la película Goliat.
- [21:24]
B
Pues yo creo que tienes toda la razón del mundo, pero es como cualquier otra tecnología. Cuando se inventó el coche, ¿Qué pasa? Ya la gente no puede andar. Cuando cocina la bicicleta, ya no puedes, no anda nadie. Depende del uso que hagas. Entonces las tecnologías no son ni buenas ni malas, es el uso que les des. Entonces cuando nosotros diseñamos todas estas tecnologías que te puedan ayudar a expandir tu curiosidad, explorar nuevos mundos, avanzar, forma más rápida y demás, la idea es que las uses bien. Y por eso no solamente creamos las herramientas, sino que educamos a la gente para que sepa usar esas herramientas. Luego está el sentido común, y como todo, si abusas de una cosa y lo haces mal, y lo utilizas para hacer trampas, pues al final te la
- [22:13]
A
IA es nueva, pero los humanos nos conocemos, ya nos tenemos calados, por eso tenemos que aprender que vamos a utilizar los atajos. Eso no hace falta ir a Berkeley, vamos, que ya lo estamos haciendo Siempre
- [22:25]
B
eso, siempre va a haber alguien que intente utilizar una herramienta o que cree muy creativo en algún momento para hacer un hackeo o romper una regla. Pero esa es la naturaleza humana misma. Eso no tiene nada que ver con la inteligencia.
- [22:41]
A
Bueno, que conviven ambas tendencias. Estos días veía en la prensa que en Francia están desarrollando con un sistema fantástico de IA, una obra de Molière, con lo que Molière significa para los franceses, como Cervantes en español o Shakespeare en inglés, y han desarrollado una IA para que escriba, bueno, recree una obra que Molière nunca escribió, pero que lo parece. Votre main si habile a tracé des billets doux. Y como ha sido en colaboración con un departamento de la Sorbona, y es un proyecto en el que hay muchos expertos humanos trabajando y coordinándolo, pues ha sido menos polémico, porque la IA es capaz de hacer. No son los equipos humanos que hay detrás de esta tecnología, o sea, se puede utilizar para llevar la creatividad a nuevos lugares o para anularla.
- [23:37]
B
Yo creo que tu pregunta me lleva más a los temas éticos, a la responsabilidad, a la innovación responsable, a los lanzamientos y los desarrollos responsables, que es como trabajamos nosotros en Google. Las herramientas las puedes utilizar para prácticamente cualquier cosa que se te ocurra. La cuestión es dónde están esas líneas rojas. Entonces Google, lo que hacemos es crear sistemas de gobernanza internos y luego exportar esos sistemas de gobernanza para que la gente empiece a tener unos marcos intelectuales de cara. El hecho de que pueda hacerlo no significa que deba hacerlo. Y son muchas de las conversaciones que tenemos, no solamente con partners y clientes, sino con las distintas comunidades, ya sean educativas o en otras industrias como el mundo de la salud.
- [24:28]
A
¿Pero valoráis cuáles son los impactos que pueden ser más dañinos o confiáis en que luego la gente haga un uso?
- [24:34]
B
No, no, claro, claro. Hacemos eso.
- [24:35]
A
¿Y cuáles podrían ser los impactos más dañinos? ¿Usándolo mal?
- [24:39]
B
Usando mal. Depende de qué tecnología. Cualquier tecnología mal usada puede tener un impacto negativo. Si tú le das a un niño una calculadora antes de que aprenda a sumar y le dejas utilizarla antes de que aprenda a sumar, nunca va a aprender matemáticas.
- [24:53]
A
Y eso con la IA, porque pasa como cuando los coches no llevaban cinturón de seguridad. Es una tecnología muy nueva, todavía no sabemos bien qué mecanismos de protección ni cómo educar a los niños con ellas, porque no éramos niños cuando existían. No podemos aplicar nuestra propia experiencia. ¿Cuáles son esos riesgos que deberíamos ser más conscientes en lo educativo, en lo social y en los demás ámbitos? Que necesitamos concienciarnos más de para qué no deberíamos usar la IA o cómo estaría mal utilizada.
- [25:23]
B
Claro, por ejemplo, en el tema de la educación hay una diferencia fundamental entre cuando un estudiante te hace una pregunta que necesita responder y tú le das simplemente una respuesta o darle las herramientas para que averigüe esa respuesta. Entonces, cuando tenemos, Por ejemplo, el LearnLM, que es el agente específico que está entrenado, digamos, para ayudarte en temas educativos, pues en lugar de darte simplemente una respuesta para que tú la escribas y des un reporte o termines de hacer el problema, te acompaña en ese viaje para que tú puedas realmente ver cómo se desarrolla, cómo se llega a esa respuesta. Si es matemáticas, pues cómo llegas ahí. Si tú lo que quieres es aprender, pues me vas a hacer un test o me vas a hacer un plan de estudios para aprender, no sé, lo que vayas a aprender. Entonces te da un plan de estudios y te va a dar los test, las evaluaciones, los pasos para que tú aprendas. Si tú no quieres aprender lo que quieres dar el pego, intentar engañar a tu profesor, pues al final vas a encontrar una IA que esté poco controlada, que te dé un paso en el que puedas fingirlo y va a estar en las herramientas que tiene el profesor para intentar detectar que realmente no lo estás haciendo. Pero eso ha sido como toda la vida de Dios. Hay quien hace los exámenes y hay quien los intenta, que hay que cambiar
- [26:47]
A
el formato de evaluación para que no sea repetir como papagayos los contenidos.
- [26:52]
B
Porque claro, por eso es una evolución, por eso no tenemos todas las respuestas. Pero sí que estamos avanzando en una dirección muy interesante, porque precisamente los chavales les encanta explorar todo esto. Están descubriendo modos nuevos que siguen siendo positivos y que cuando no son positivos, enseguida los empiezas a mitigar como un riesgo. Enseñas a los profesores, los profesores ven las ventajas de utilizar la inteligencia artificial, sobre todo para temas administrativos, que les llevan mucho tiempo y que no aportan a la educación, Entonces pueden dedicar más tiempo a los alumnos. Entonces hay muchas cosas positivas, pero como siempre, todas las herramientas, todas las tecnologías tienen un lado negativo si las utilizas más o si las utilizas sin las medidas de seguridad necesarias.
- [27:38]
A
Me hablaron una vez, hace años ya, de un sistema, porque claro, algo que hace la inteligencia artificial por su propia naturaleza, es predecir patrones o comportamientos. Y aplicado a la educación, hubo algo que se me quedó muy grabado, porque me parecía inquietante que hubiera un shock, no sé si llamarlo así, que podía predecir, monitoreando el comportamiento de los alumnos en los primeros días de clase, la probabilidad de que ese alumno, que esa persona, aprobara el curso o lo suspendiera. Con la misma lógica con la que utilizan la IA para predecir el riesgo de reincidencia en caso de libertad condicional en algunos sistemas judiciales. Pues eso, en lo educativo, predecir cómo va a comportarse en base a cómo estudia, cómo lee, cómo se mueve por las pantallas. Y claro, esto generaba éticamente una duda importante, porque esto puede ser una tecnología valiosísima para detectar qué alumnos necesitan más refuerzo. Si en el primer mes de su desarrollo educativo puedes detectar esta persona se despista mucho, o no asimila o divaga, puede ser muy relevante para focalizar el apoyo, o puede utilizarse para retirarle la beca. Esto son decisiones más políticas que tecnológicas. Pero la capacidad de predicción que tiene la IA y que tienen estas tecnologías, ¿Crees que vamos a convivir con este superpoder de la predicción cada vez más extendido, o es algo que es mejor no sacar de la caja de Pandora?
- [29:20]
B
Yo creo que no hay que sacarlo de la caja de Pandora porque ya está fuera. Es que estamos viviendo ya con esas tecnologías. La cuestión es entender qué te está diciendo la tecnología y luego tomar decisiones de cómo usar esa información. Entonces volvemos a sistemas de gobernanza. Muchas veces hablamos de la inteligencia artificial como si hubiera un futuro predeterminado sobre el que no tenemos control y hacia el que vamos. Es muy negativo y en realidad es un vehículo y somos nosotros los que decidimos hacia dónde vamos. Yo imagino un futuro donde utilicemos la inteligencia artificial precisamente en la forma en la que tú decías antes. En tu primer ejemplo detectas que hay estudiantes que van a tener más dificultad porque las materias son de una manera o de otra, o porque aprenden con una metodología distinta o por lo que sea. Entonces utiliza esa información para mitigar ese riesgo y asegurarte de que tenga las mayores oportunidades. No le vas a quitar una beca porque no estás prediciendo el futuro. Lo que estás haciendo es darle la oportunidad a ellos de que se adapten o a darles tú la oportunidad de conseguir nuevas herramientas, nuevas metodologías, nuevos formatos, que la inteligencia artificial misma te ayuda a hacer eso para personalizar la educación de manera que puedan conseguir los mejores resultados y alcanzar su potencial. Pero eso lo puedes aplicar a cualquier cosa. Tú puedes aplicar la inteligencia artificial para analizar tu genoma, para ver si tienes una probabilidad más alta o más baja de desarrollar una enfermedad u otra. ¿Para qué lo vas a utilizar? ¿Para deprimirte si tienes una No, Pues lo vas a utilizar? Pues mira, si tienes una probabilidad más alta y controlas lo que comes o controlas a qué te expones, pues la probabilidad baja. La inteligencia artificial nos ha enseñado tantas cosas sobre nosotros mismos y sobre cómo palían los riesgos asociados a comportamientos no deseados, que yo solamente la veo en un contexto positivo, siempre teniendo en cuenta que se puede usar para malas cosas, hacer cosas como siempre, como cualquier otra herramienta. Y por eso tienes que desarrollar herramientas que te protejan de esos malos usos y desarrollar procesos, guidelines, si, perdona el anglicismo. Primero, tienes tres strikes, líneas de comportamiento que te permitan que las cosas vayan en la dirección para las que tú las has diseñado. Pero luego el mundo es mundo, las personas somos personas, como tú bien has dicho, la naturaleza humana es la que es. Y eso no lo vamos a hacer.
- [32:05]
A
Parece mentira que no nos conozcamos los humanos ya a estas alturas. Ahora que decías lo del anglicismo, como lingüista que eres o fuiste, no se
- [32:14]
B
deja de ser lingüista.
- [32:17]
A
¿Qué futuro le espera a los idiomas en esta era en la que la inteligencia artificial está cada vez más omnipresente? Porque por una parte entiendo que puede ser una herramienta de preservar lenguas minoritarias y ayudar su desarrollo y su comprensión. Pero por otra parte, las lenguas que no están ahora mismo alimentando a la bestia desaparecen. El inglés está cada vez más fuerte, claro, porque es el predominante y el español no lo está haciendo mal del todo. Pero ¿Cómo lo ves?
- [32:54]
B
Bueno, sí que es cierto que hay un nivel de anglocentrismo precisamente porque los grandes modelos se están desarrollando en Estados Unidos y el idioma principal de Estados Unidos Es el inglés. Pero sí que es cierto que los todos los grandes modelos también se están haciendo multilingües, con lo cual tienen una gran cantidad de información en otros idiomas y utilizan fuentes originales en otros idiomas como parte del modelo. Esos idiomas no se van a perder. Es más, como tú bien has dicho, se están utilizando precisamente las tecnologías de transferencia de los transformers para preservar lenguas que no tienen suficientes datos para entrenar un modelo en sí y que atrás de las tecnologías que tenemos, pues con menos datos puedes conseguir niveles de rendimiento que sean similares a los idiomas con mucho más datos. ¿Dónde está el quid la cuestión? En mi opinión, aprender un idioma es mucho más que simplemente tener una capacidad que te pueda ayudar en un trabajo o que te puede ayudar si vas de viaje a algún sitio. Aprender un idioma te da una estructura mental distinta que te ayude a comprender cómo otras personas piensan. Tú al principio de esta conversación mencionaste que la lengua que utilizas tú, tu lengua nativa o las lenguas que utilizas a nivel nativo, de alguna manera estructura no solamente tu pensamiento lógico, sino incluso cómo percibes la realidad. Y hay muchos estudios en esa dirección. Entonces, cuando aprendes un idioma nuevo, aprendes una forma nueva de ver el mundo. Entonces siempre merece la pena. No es lo mismo tener un traductor en simultáneo que nos está traduciendo de un idioma a otro, que realmente en entender cómo esa persona está percibiendo el contexto que estáis compartiendo.
- [34:45]
A
Entonces sería como dejar de necesitar montar a caballo para ir a trabajar y aprender a montar a caballo para disfrutarlo. Los caballos fueron. Me encanta el ejemplo, fueron fundamentales para movernos por el mundo y luego pasaron a ser un hobby. ¿Entonces, con la IA siendo capaz de traducir en tiempo real casi todo, crees que el oficio de traductor va a ser algo cada vez menos humano?
- [35:12]
B
Yo creo que hay siempre espacio para tener un humano que lo sepa, porque no quieres perder esa capacidad. Entonces, lo que no vamos a necesitar es el mismo nivel de traducción que hemos necesitado anteriormente, porque ya tenemos un servicio automático. Pero siempre hay necesidad de tener, sobre todo en cosas importantes donde no te puedes equivocar, donde quieras tener la seguridad de que algo se está traduciendo o haya unas sensibilidades especiales. En fin, hay muchas razones por las que quieres tener un traductor humano que sepa, que entienda y que trabaje. Otra cosa es que lo necesites para cosas de andar por casa, para que te traduzca un certificado para ir a otro país o para que te dé una guía turística en un país que no conoces. Pero yo creo que va mucho más allá de un hobby, como tú decías, aunque el ejemplo me ha gustado mucho, yo creo que también te abre de mente que cuando entiendes la perspectiva de otra persona a través de su idioma y eso te da una percepción distinta de la realidad, te ayuda a entender mejor por qué hacen determinadas cosas o por qué tienden a pensar de determinada manera. Y eso te ayuda también a tener conversaciones más interesantes.
- [36:23]
A
Hay una cosa que no sé cuánto te inquieta a ti, a mí bastante, que le leí a unos profesores de Harvard y ahora mismo no me acuerdo del nombre, pero seguro que cuando mandemos la newsletter de pausa los oye, ya lo he encontrado, que alertaban de cuidado porque efectivamente los lenguajes son permeables. El intercambio, como decía antes lo de los anglicismos, pues lógicamente los idiomas van evolucionando y van incorporando las nuevas formas de hablar. El estar hablando cada vez más con las máquinas está haciendo que los humanos incorporemos cómo habla la inteligencia artificial. De hecho están empezando a hacer estudios de las estructuras de frases más sencillas, más previsibles y con un vocabulario más limitado que el normal y diciendo mucho menos por favor y gracias, sino hablando más con imperativos y con órdenes. Es algo que están estudiando el riesgo que modifique cómo hablamos. No vamos a hablar con el guión largo este, que hay chatbots que siempre incorporan y que es la manera más fácil de detectar que alguien ha sido muy vago para escribir su propio email. Pero sí que hay una preocupación, ya no de que las máquinas aprendan a hablar como los humanos, que eso está muy bien, sino seamos los humanos los que vayamos simplificando nuestro idioma a la manera en la que las máquinas nos van habituando a relacionarse con nosotros. Porque hay quien hablará más con su chat GPT, su Gemini, cada uno que tenga el suyo, que con humanos.
- [37:56]
B
Pues sí, no es un riesgo baladí. Es cierto que siempre hay una bidireccionalidad y que además nosotros los humanos de manera natural nos adaptamos al medio. Es Es más, si tú y yo habláramos mucho, pues tú te adaptarías un poquito más a como yo hablo y yo me adaptaría un poquito más a como tú hablas. Entonces esa interacción, ese dinamismo, la lengua es una cosa viva. Entonces va evolucionando, va cambiando y efectivamente hemos introducido un nuevo animal en el ecosistema lingüístico donde ahora se expresa de una manera que además tiene una forma especial. Es decir, somos capaces en la mayoría de los casos de ver eso. Suena muy interesante.
- [38:35]
A
¿Lo reconoces?
- [38:37]
B
No siempre, pero sí, es difícil analizarlo, pero yo creo que hay unas pautas que son casi demasiado perfectas, que son menos personales. Depende de cuánto trabajo le hayan puesto en el prompt para escribir el email también. Entonces sí que es cierto que hay algo especial, pero precisamente porque existen esas investigaciones que nos avisan de que existe el riesgo de que se permeabilice hacia nosotros esas simplificaciones lingüísticas, podemos optar a desarrollar herramientas que mitiguen ese riesgo o que lo eviten. Ya el simple hecho de que tú conozcas que hay un riesgo de un peligro concreto ya hace que tengas otra preparación a la hora, que estés alerta y que seas consciente y ya en cierta manera eso mitiga el riesgo.
- [39:31]
A
A nosotros y a los oyentes de pausa no les va a pasar, pero hay un montón de miles de millones de personas que corren ese riesgo. Y no sólo ese, porque a mí otra de las cosas que me fascina a medida que voy interaccionando con la IA, es lo pelota que puede llegar a ser, lo adulador que es el sistema por sistema y cómo eso, si realmente permea en la manera que tenemos de usar el lenguaje y de relacionarnos, va a hacer que la gente a la que no le digan todo el rato lo lista que es, no sepa desenvolverse por el mundo de verdad. Esto a mí me parece un riesgo peligrosísimo.
- [40:12]
B
Yo ahí no veo tanto riesgo. Yo creo que ha habido experimentos. Date cuenta que esta tecnología todavía está en la adolescencia, definiría mejor es adolescente perdido. Entonces hay que ver cómo vamos educándolo y nos vamos dando cuenta de estas cosas. Y es lo mismo, cuando tú estás educando un adolescente, te vas dando cuenta que va tirando. Esto hay que cortarlo de raíz y hay que tirar por otro lado.
- [40:36]
A
Los adolescentes no hacen caso nunca, Pilar,
- [40:42]
B
se puede hacer lo que se puede hacer. Y yo creo que cuando detectamos que puede haber comportamientos indeseables, pues es precisamente la oportunidad para afinarlo, para optimizarlo, para mitigar ese riesgo. De hecho han salido varias versiones de alguna de estas herramientas que se han ido muy en esa dirección y la gente no les ha gustado nada. Entonces vamos a buscar un poquito el equilibrio, pero hay que darse tiempo, hay que ser conscientes y utilizar el sentido común.
- [41:14]
A
Hay otro rasgo obvio de la IA de cómo habla, de cómo nos habla, y es que está aprendiendo. La estáis alimentando fundamentalmente con textos escritos. Es de donde más ha bebido también la oralidad. Ahora se está trabajando, pero a menudo son películas o programas de radio, pero que a menudo bien de guiones previos. Es decir, no es como la gente hablamos o hablábamos, porque no hablamos como escribimos y desde luego no hablamos como en los anuncios de champú, porque no sé si eso también está entrenando a la IA, pero bueno, que si está aprendiendo o bueno, o a lo mejor está aprendiendo también de cómo nos comunicamos en redes sociales y entonces está asimilando como cotidiana una agresividad que no es la real en la calle.
- [42:04]
B
Es que es como todo. Date cuenta que una parte muy importante de cómo se desarrolla un gran modelo y cómo se pre entrena es la selección de los datos. Entonces todas estas cosas que tú me estás diciendo, tenemos cientos, si no miles de personas pensando en esa misma dirección, haciendo preselección de qué datos son los interesantes para poder generar un modelo que se comporte de esta manera. ¿Cuáles son los riesgos asociados a comportamientos no deseados? ¿Cómo podemos mitigar eso? ¿Lo hacemos con datos? ¿Lo hacemoS con filtros? ¿Lo hacemOS con pre entrenamiento, con post entrenamiento? ¿Lo hacEMOS de muchas maneras? Entonces date cuenta que no hemos nacido ayer como empresa. Pero es que además trabajamos con muchísimos científicos de distintos campos de saber y la la lingüística, la ciencia cognitiva, la antropología, la psicología y demás, precisamente para anticiparnos a posibles comportamientos indeseados. Entonces yo no me preocuparía tanto porque eso fuera algo pernicioso que va a durar en el tiempo. Simplemente hay generaciones que van mejorando y riesgos que vamos mitigando conforme se van descubriendo.
- [43:15]
A
A lo mejor soy más optimista en lo tecnológico que en lo humano. Me fío de los humanos, ya te lo digo.
- [43:25]
B
Bueno, tenemos una oportunidad para usar estas herramientas precisamente para educar mejor a los humanos. Yo creo que tenemos la oportunidad de ser más humanos con la inteligencia artificial si lo usamos bien.
- [43:35]
A
¿Y qué error de percepción y sobre todo de los que repetimos los medios, te gustaría aclarar porque hablamos cada vez más de inteligencia artificial y no necesariamente sabemos lo que decimos?
- [43:50]
B
Yo creo que hay un cierto peligro en cómo se habla del antropomorfismo. Yo creo que no se entiende del todo bien. Hay partes muy positivas del antropomorfismo a nivel de inteligencia artificial y hay otras partes que son muy negativas.
- [44:04]
A
Ponnos algún ejemplo para entender.
- [44:06]
B
El antropomorfismo es básicamente atribuir características que son propiamente humanas a cosas que no lo son. Y eso lo hacemos mucho con inteligencia artificial porque nos habla como si fuera un humano, se comporta como si fuera un humano, pero eso no significa que si ni padezca, que tenga una agenda culta, que tenga ni siquiera motivación. Entonces cuando empiezas a pensar me ha dicho esto, ¿Por qué me lo habrá dicho? Piensa que no soy suficientemente buena o que soy demasiado buena. Es que no piensa, es que no está pensando. Es que lo que está intentando es cumplir un objetivo que va en función de algo que es lo que ha entendido que tú como usuario quieres. Entonces muchas veces se confunde esos comportamientos que son son muy parecidos a los humanos con las intenciones de un humano que hubiera tenido ese comportamiento. Y eso se confunde una cosa con la otra.
- [45:02]
A
Bueno, se confunde, pero ahí las empresas están poniendo mucho de su parte. Hay buena parte del mundo corporativo que está encontrando un nicho de negocio en vender mucho humo, vender la idea de que esta tecnología es humana o puede llegar a serlo.
- [45:19]
B
Hay difiere un poco. No dudo que haya empresas que no estén haciendo las cosas correctamente y no sean éticas, pero una cosa es vender humo y otra cosa es vender una ilusión. Si tomamos la misma idea que está haciendo pues el cine es todo. Es todo mentira. Hacen una película porque están Bueno, no es todo mentira vendiendo una ilusión.
- [45:43]
A
Es ficción. Claro, pero se vende como tal a la entrada, compras la entrada. Esto te está prometiendo casarse contigo. Hay quien lo está queriendo ver de verdad.
- [45:54]
B
No necesariamente vamos a los límites éticos. Si tú hablas con alguno de los grandes modelos, por ejemplo los nuestros, Gemini no te va a decir nunca me voy a casar contigo y te adoro y te amo y eres el amor de mi vida, porque no está entrenado en esa dirección. Todo lo contrario, intenta evitar conversaciones que puedan poner en riesgo o que puedan llevarte a engaño de alguna manera. Ahora bien, si tú quieres crear una ilusión de una novia virtual y tu negocio es crear parejas virtuales con los que puedas mantener una conversación, que sí, que hay una línea de negocio que se está desarrollando en determinados países y demás, tú sabes que con lo que estás hablando es una inteligencia artificial.
- [46:39]
A
¿No crees que estamos entrando en una era fascinante, desde luego, pero en la que cada vez más gente es incapaz de diferenciar lo real de que lo lo irreal?
- [46:48]
B
Sí que es cierto que muchas veces es difícil, pero ahí es donde viene la regulación. Y la regulación te fuerza a que si tú estás hablando con un asistente virtual, o sea, con un agente de inteligencia artificial, se identifique como tal.
- [47:02]
A
Y no, eso debería ser obligatorio, que la máquina te recuerde que es una
- [47:08]
B
máquina, que la máquina te diga a priori que si tú vas a hablar con una máquina, sepas que estás hablando con una máquina y no un humano. Y eso es obligatorio. Yo no sé, la legislación ya se me escapa en qué país ya es legislación o proyecto de legislación.
- [47:21]
A
Lo que no está prohibido es que esa máquina te haga creer que te entiende como un humano. Y no es verdad.
- [47:28]
B
Es que ¿Qué significa eso que te entiende como un humano? Porque cuando hablamos, simplemente el hecho de entender significa una cosa distinta. Cuando yo te digo si la máquina te ha entendido o si tú me has entendido, si la máquina te ha entendido es que ha hecho un procesamiento del lenguaje natural de la cadena de caracteres que tú le has dado y sabe qué respuesta es la óptima que te tiene que dar. Eso es lo que hace la máquina para entenderte. Ahora, si yo espero que tú me entiendas, espero que no solamente entiendas lo que te estoy diciendo, sino que proceses la información con un objetivo concreto, que es a lo mejor que seas empática conmigo, que tengas un nivel de compasión o que hagas algo, que tengas un comportamiento o eligiendo una emoción de alguna manera son distintos de la máquina. Sé que no voy a elicitar ninguna emoción, voy a licitar un comportamiento preprogramado. Son distintas concepciones de lo que significa entender.
- [48:22]
A
Ya, pero no vamos a tener un metafísico de guardia cada vez que tengamos esta duda. Y de verdad que el riesgo de confundir la apariencia de emociones con emociones reales, al menos con las máquinas, yo
- [48:37]
B
creo que le damos poco crédito a las personas. Mira, el aguarrás y el agua se parece mucho, pero nadie se va a beber por una botella de aguarrás.
- [48:47]
A
Bueno, incluso pueden votar a alguien que recomiende beber lejía para luchar contra el Covid. Muy pesimista con los humanos.
- [48:54]
B
La naturaleza humana yo no te la voy a discutir, pero sí que te digo que si por ejemplo pensáramos en todos los accidentes de tráfico que hay, no te volverías a montar en ningún momento un coche. Si pensaras en que cada avión que vas a coger. Estoy a punto de coger un avión, se puede caer, no te montas nunca en un avión. Riesgos hay en todo. Riesgos hay. Si nos quedamos aquí, es posible que haya un terremoto, se caiga. Puede haber riesgo en todo. Pero la cuestión es evaluar esos riesgos, mitigarlos, educar a la gente precisamente para que sepa identificar.
- [49:25]
A
¿Estamos a tiempo de entender mejor cómo utilizar la IA?
- [49:30]
B
Estamos a tiempo, estamos haciendo mucho.
- [49:34]
A
Esto cambia tan rápido que a veces da la sensación que la tecnología va más rápido de lo que luego podemos irnos adaptando.
- [49:40]
B
Mira, a mí hay un dicho de John Ford que me gusta mucho, que es algo parecido. Tanto si piensas que puedes como si piensas que no puedes, tendrás razón. Entonces yo elijo pensar que podemos. Y si, estamos a tiempo. Tenemos todas las herramientas. Ahora, eso sí, tiene que ser un esfuerzo. No es lo que hagamos unos pocos, es la sociedad. Y la sociedad civil tiene un papel muy importante que jugar.
- [50:05]
A
Hace diez o quince años, Pilar, me dijiste que las máquinas hablarían cuando era difícil de entender bien esto de la lingüística computacional. Y así fue. Así fue. Esto de que la oralidad sea la manera cada vez más frecuente, en vez de teclearlo todo, poderse pedir era apenas hace 10 años una quimera. Así que te voy a pedir que nos asomes un poquito a qué puede ser algo normal dentro de otros 10 o 15 años, que ahora mismo todavía nos parece fantasía.
- [50:40]
B
Yo creo que tener tu propio asistente virtual ultra personalizado, que te acompañe en cada momento de tu vida hasta el punto que tú quieras, o sea, configurable, controlable enteramente por ti, pero que te pueda representar en determinados foros, por ejemplo, negociando tu seguro, o que vaya a hacer tareas y demás. Todo lo que tú no quieras hacer.
- [51:03]
A
Por ejemplo, si tienes que cambiar la domiciliación del gas, por ejemplo, ya no es que hables tú con una máquina, sino que las máquinas hablen entre ellas.
- [51:10]
B
Tu propio asistente virtual, cámbiame lo del gas, que nos mudamos y que. Ay, sí, por favor, cambia la cuenta bancaria. Todos esos trámites, todas esas cosas que tú quieras delegar, que sea algo que puedas hacer casi sin pensarlo, que no te tengas que preocupar.
- [51:26]
A
Ay, pero me encanta ese futuro. Pero es que entre tanta distopía, esto me está encantando.
- [51:31]
B
Delega, delega mentalmente esto.
- [51:34]
A
Claro, es que habíamos enfocado esto a tener los humanos que hablar con máquinas. No, no, claro. Que las máquinas hablen entre ellas y hagan estas cosas aburridas, que nosotras nos vamos a tomar un vino, anda que no.
- [51:45]
B
Pues eso.
- [51:45]
A
¿Firmo entonces que? 2030-2035 Ya estaba tardando dando esto.
- [51:49]
B
Sí, no, yo creo que no queda tanto para ese futuro. Estamos hablando posiblemente poquitos años.
- [51:56]
A
Entonces vamos a celebrarlo.
- [51:58]
B
Encantada.
- [51:58]
A
Muchísimas gracias, Filar, por este rato.
- [52:00]
B
Placer.
- [52:01]
A
Un gusto viajar contigo al futuro.
- [52:10]
C
Pausa es el podcast semanal del Confidencial, que dirige y presenta Marta García ayer con la realización y el diseño sonoro de Ana Schultz, la asistencia técnica de David Fernández Marcos, los vídeos de Pablo Porcuna y Lucía Cencerrado, y la coordinación de Antonio Martín. Recuerda que también puedes suscribirte a la newsletter de Pausa, con recomendaciones y contenidos exclusivos de todo lo que comentamos en el episodio, encuentras el link en la descripción de tu plataforma de podcast.
- [53:02]
B
Y luego dices, pues sí que es cierto que hay cosas que hago diferentes, hay cosas que digo distintas.
- [53:06]
A
No hombre, es que aquí vienes y vienes del futuro, perdóname, o sea, aquí vienes del futuro pero pero muchas veces
- [53:13]
B
cambias el chip casi en modo automático y no te paras a pensar cómo
- [53:18]
A
explica el viaje en el tiempo que acabas de hacer.
- [53:21]
B
Esto para mí me lo pongo porque
- [53:23]
A
vengo el viaje en el tiempo siempre cansa.