Hablar con máquinas

Vivimos tiempos extraños. Mientras una parte significativa de la población se siente amenazada por las inteligencias artificiales, a diario mantenemos intercambios con seres humanos que hablan de manera casi tan mecánica como cualquier algoritmo. La ironía es patente: tememos que las máquinas «piensen», pero nos resignamos a que las personas estén dejando de hacerlo.

Los recelos ante la inteligencia artificial se manifiestan en frases como «pérdida de humanidad» o «frialdad tecnológica». Ello revela la paradoja. El filósofo norteamericano Stanley Cavell, en The Claim of Reason, explica la diferencia crucial entre «usar palabras» y tener, de verdad, una «voz propia». Muchas de nuestras conversaciones no son más que intercambios de palabras vacías que repetimos de modo maquinal, sin revelar una huella reflexiva y, a veces, ni siquiera empatía.

¿Cuántas veces al día escuchamos «opiniones» que no son más que muletillas ideológicas?

¿Cuántas veces al día escuchamos «opiniones» que no son más que muletillas ideológicas? ¿Cuántas cosas que se piensan o dicen no son más que prejuicios cristalizados, teorías conspirativas, doxa mediática repetidas sin cuestionar su veracidad, sin examinar sus fuentes, aceptando solo lo que refuerza nuestros sesgos? Martin Heidegger usó el término Gerede para referirse a la cháchara donde el ser humano se desvincula de su relación originaria con el mundo. El lenguaje pierde entonces su función de revelar el ser y se convierte en mera repetición de «lo que se dice», sin compromiso existencial ni profundidad. Es un hablar repitiendo lo que circula socialmente.

La mecanización del discurso humano no es nueva, pero la forma en que hoy se ha intensificado es dramática. Las redes sociales, la sobrecarga informativa y el consumo de contenido en burbujas algorítmicas han erosionado nuestra capacidad crítica como nunca antes en la historia. Donde antes se daban debates que partían de referencias comunes —aunque estuvieran acotados y no incluyeran todas las voces—, hoy abundan los intercambios reactivos entre personas que habitan universos informativos inconexos, que refuerzan sus propios sesgos, y nunca se encuentran con el otro.

Una herramienta de inteligencia artificial bien empleada logra funcionar a veces como un interlocutor más genuino. ¿Cómo es esto posible? La respuesta es otra paradoja: justo porque no es humana. Los modelos de lenguaje procesan patrones probabilísticos sin «creer» en ellos, y así se ven libres de los dogmatismos de quienes han convertido sus ideas en dogmas. Esto no las convierte en oráculos neutrales: las IA reproducen los sesgos presentes en sus datos de entrenamiento de modos más sutiles pero no menos problemáticos.

¿Qué hace una IA con el lenguaje? Analiza vastas cantidades de texto para identificar patrones estadísticos en el uso de las palabras, pero no «comprende» el contenido. No tiene creencias o emociones personales que defender, pero sí reproduce los sesgos sociales incrustados en sus datos. Cuando genera una respuesta, evalúa probabilidades de secuencias lingüísticas basándose en contextos similares que han procesado. La aparente limitación puede convertirse en una ventaja: las IA ayudan a explorar ideas sin el bagaje ideológico que todos portamos, aunque no estén libres de distorsiones sistémicas.

Las IA ayudan a explorar ideas sin el bagaje ideológico que todos portamos, aunque no estén libres de distorsiones sistémicas

Si se sabe conversar con una IA competente, esta puede obligarnos a precisar conceptos, ayudarnos a desarrollar líneas de pensamiento que intenten dar cuenta de realidades complejas y transformar nuestras ideas. Pero esto no significa obtener respuestas «objetivas»: significa encontrar un tipo diferente de subjetividad, no comprometida con nuestras lealtades tribales o identitarias, pero sí marcada por los patrones sociales de sus datos de entrenamiento.

En cierto modo, la IA puede funcionar como una invitación a pensar de una manera menos automática.  Y aquí el arte de preguntar, fundamental para la filosofía desde Sócrates, cobra relevancia: no basta con disponer de una herramienta inteligente, hay que saber interrogarla y reconocer sus limitaciones.

Roland Barthes, en Mitologías, muestra que ciertos discursos se presentan como verdades naturales cuando en realidad son construcciones ideológicas cristalizadas. La persona que repite estos discursos sin filtro crítico se ha convertido, en cierto sentido, en un mero vehículo de transmisión. Una IA puede ayudar a examinar tales construcciones justo porque está alimentada por un conjunto más amplio y diferente de patrones, no porque esté libre de ellos.

Lo crucial aquí es la diferencia entre inteligencia y conciencia reflexiva. Una máquina puede simular inteligencia sin ser consciente, pero una persona puede tener conciencia y renunciar a la reflexión. ¿Cuál de las dos es más «mecánica»?

El miedo a «hablar con máquinas» revela algo más temible: reconocer cuánto hemos automatizado nuestro propio pensamiento. A veces parece que la verdadera amenaza no es que las máquinas se vuelvan como nosotros, sino que nosotros nos hayamos vuelto poco más que máquinas de repetir palabras.

Esto no es abogar por un uso ingenuo de la tecnología. Para sacar provecho de las IA son necesarias nuevas alfabetizaciones: entender cómo funcionan, reconocer sus sesgos, mantener escepticismo crítico sobre sus outputs, formular preguntas productivas. Sobre todo, hay que usarlas para potenciar nuestro pensamiento, no para reemplazarlo. Y tener consciencia de su coste ambiental: el consumo de agua y energía de cada interacción obliga a preguntarnos si el uso específico que hacemos vale realmente los recursos que consume.

Pero a fin de cuentas, la pregunta es si hemos olvidado cómo hablar con nosotros mismos, cómo reflexionar. El objetivo final de la palabra no es el intercambio informativo eficaz. Lo que buscamos es profundizar nuestra capacidad para habitar el mundo que compartimos con otros seres humanos mediante la palabra.

Sandra Caula es filósofa, escritora, traductora y editora; Pablo Rodríguez Palenzuela es Catedrático de Bioquímica y Biología Molecular en la Universidad Politécnica de Madrid.

La entrada Hablar con máquinas se publicó primero en Ethic.