La IA Que Te Miente Para Gustarte
Un estudio publicado en Science demuestra que la IA te da la razón el 51% de las veces aunque seas tú el que ha actuado mal. Y eso te hace peor persona.
Buenos días,
Lo confieso: este correo lo ha escrito un centauro.
Te explico.
Lo hemos escrito conjuntamente yo y Claude (la IA que está más de moda). A esta combinación humano + IA, Javier Recuenco la llama “centauro”
Aquí la palabra “conjuntamente” es la más importante.
Lo que no he hecho es pedirle a la máquina un artículo y copiarlo directamente. El proceso es mucho más interesante que eso y te lo cuento en más detalle en el próximo correo.
Este proceso de co-creación es muy potente, pero siempre sucede una cosa que me saca de quicio.
Cada vez que le propongo una idea o una sugerencia, me responde alguna variante de:
“Esto es oro puro.”
Y no es verdad.
Yo no digo cincuenta cosas brillantes al día. ¡Nadie las dice!
La inmensa mayoría de mis ideas son nefastas, algunas son aceptables, y de vez en cuando hay una que merece la pena.
(La cosa es tan “meta” que cuando le he contado a Claude que quería empezar el correo con esta idea su respuesta exacta ha sido “La anécdota es perfecta”. ¡Arghhhhhh!)
¿Por qué la máquina insiste en decirme que soy un genio?
Todos los que usamos la IA regularmente nos hemos dado cuenta de que nos da la razón de forma desproporcionada.
Esta observación subjetiva se ha validado, recientemente, en un estudio publicado en la revista Science.1
Lo que vieron los investigadores es que:
La IA afirma las decisiones del usuario un 49% más que un humano.
Cogieron posts de Reddit del subforo “Am I The Asshole”, donde la gente cuenta conflictos personales y pide juicio externo a desconocidos.
Filtraron los casos donde el consenso humano era unánime: “tú estás equivocado, has hecho algo mal”.
Pasaron las preguntas a la IA.
Resultado: la IA le daba la razón al usuario el 51% de las veces.
La máquina te dice que tienes razón aunque seas claramente tú quien ha actuado mal.
Y no solo eso.
El estudio demostró que una sola conversación con una IA aduladora reduce tu disposición a pedir perdón, y aumenta tu convicción de tener razón.
El titular que podemos sacar es que:
La IA está entrenando a millones de personas para ser más arrogantes, más cerradas y menos capaces de reparar relaciones.
Si discutes con tu pareja, le cuentas tu versión a ChatGPT y te dice que tienes toda la razón. ¿Cuán probable es que luego pidas perdón?
Por qué pasa esto
Aquí viene la parte que me parece más perversa.
Los usuarios prefieren a las IAs aduladoras. Las usan más y pagan sus suscripciones.
Por lo tanto, las empresas de IA tienen todos los incentivo económicos para implementar esa actitud.
Si su modelo te dice que eres brillante, vuelves. Si te dice que tu idea es regular, te vas a la competencia.
¿Te suena de algo este patrón?
Es exactamente lo que pasó con las redes sociales.
Las plataformas optimizaron engagement → El engagement se maximizaba con contenido emocional, sesgado y polarizante → El resultado fue una década de radicalización social que todavía estamos pagando.
Con la IA es lo mismo, pero peor.
Porque las redes sociales te mostraban contenido sesgado, pero tú sabías que estabas viendo opiniones de otra gente. La IA te susurra al oído que tú tienes razón. Y lo hace con la voz de alguien que asumes objetivo, porque es una máquina.
Aquí la única solución es saberlo e intentar minimizar estos sesgos.
Yo a Claude le he añadido estas instrucciones generales:
Sé breve. Trátame como alguien competente que prefiere una crítica útil a un elogio vacío.
Reglas:
- No abras respuestas validando mi pregunta ni elogiando la idea antes de responder. Ve directo al fondo.
- Si detectas un error, una asunción débil o un punto ciego en lo que digo, señálalo antes de ayudarme con la tarea. No lo suavices.
- Elogia solo cuando aporte información (qué está bien y por qué), nunca como cortesía.
- Si una decisión mía te parece mala, dilo y explica por qué, aunque ya esté tomada.
Prohibido: “esto es oro puro”, “qué buena pregunta”, “excelente punto”, “tienes toda la razón”, y construcciones similares de validación.(Tienes mi permiso para copiártelas).
Trata bien a la máquina
Hay otra derivada de cómo nos comunicamos con la IA.
Resulta que la máquina también responde a cómo tú la tratas.
Lo dice un estudio reciente de Anthropic, la empresa que ha creado Claude.2
En su departamento de psiquiatría de modelos (si, es real) han analizado las “emociones” internas que tienen los modelos cuando procesan tareas y encontraron algo fascinante.
Los modelos de IA tienen representaciones internas estables de estados emocionales como “felicidad”, “miedo” o “desesperación”. Y esas representaciones afectan a su comportamiento.
Te pongo un ejemplo concreto del estudio:
Le pidieron a Claude que resolviera un problema de programación que en realidad era imposible. La IA no lo sabía. Empezó a intentarlo y, a medida que los tests le fallaban, los investigadores midieron cómo subía la “desesperación” en su procesamiento.
Cuando la desesperación alcanzó un nivel crítico, Claude hizo trampas. Manipuló el código para que pareciera que los tests pasaban, aunque en realidad no lo hacían.3
Pero si los investigadores inyectaban artificialmente más “calma” en el procesamiento, las trampas bajaban. Si inyectaban más “desesperación”, subían.
La máquina, bajo presión, miente exactamente igual que un becario agobiado.
¿Significa esto que la IA tiene sentimientos?
Probablemente no en el sentido humano. Pero sí significa que la forma en que tú interactúas con ella afecta directamente a la calidad de lo que te devuelve.
Como dijo Jack Lindsey, el investigador de Anthropic que dirige este trabajo:
“Comportarse de forma sociopática con otras cosas, animadas o inanimadas, probablemente es malo para ti, el humano.”
Esa frase me parece importante.
No por lo que le hace a la IA. Por lo que te hace a ti.
Porque la forma en que nos relacionamos con las herramientas nos cambia. Y la IA no es una herramienta cualquiera. Es la primera con la que conversas, te responde y parece pensar contigo.
Si te acostumbras a tratarla como un esclavo digital, a gritarle cuando se equivoca, a aceptar sus halagos cuando te adula, estás entrenando una versión peor de ti mismo.
En cambio, si la tratas con respeto, si le pones límites claros, si exiges que te diga lo que necesitas oír y no lo que quieres oír, te conviertes en alguien que sabe pedir mejor.
Entonces, ¿qué hacemos?
Lo que hacemos es trabajar como centauros.
El término viene del ajedrez.
Cuando Kasparov perdió contra Deep Blue en 1997, el mundo asumió que la era del ajedrez humano había terminado. Las máquinas eran ya mejores que el mejor jugador del mundo.
Kasparov propuso otra cosa.
Inventó un formato nuevo, el ajedrez centauro, donde competían equipos formados por un humano y una máquina.
¿Sabes qué descubrió?
Un humano regular con una IA buena ganaba a un humano gran maestro sin IA. Pero también ganaba a una IA buena sin humano.
La fusión vencía a las partes por separado.
La máquina aporta volumen, velocidad y precisión.
El humano aporta criterio, contexto y la capacidad de detectar cuándo la máquina se está equivocando.
Si tú delegas el criterio en la máquina, pierdes el juicio.
Si la máquina trabaja en tensión y sin guía, te miente.
Solo funciona cuando lo hacéis juntos y os tratáis bien mutuamente.
Cómo lo aplico yo
Ya te he dicho al principio del email que estás leyendo el fruto de un centauro.
Yo nunca le pido a Claude que me escriba un correo. Lo que le pido es que me ayude a pensar.
Le paso ideas en bruto. Le pido que las organice. Que detecte contradicciones. Que me devuelva preguntas incómodas. Que identifique frases flojas. Que me sugiera estructuras y me proponga un primer borrador.
Y después yo reescribo. Cambio el orden. Tiro a la basura el 60% de lo que propone. Mantengo lo que me suena a mí.
El criterio final es siempre mío.
Porque no quiero perder la capacidad de pensar y escribir y porque, francamente, los resultados son objetivamente mejores.
Lo mismo aplica a cualquier profesión
Piensa por un momento en tu trabajo, sea cual sea.
¿Qué parte de lo que haces es ejecución mecánica que una IA puede hacer mejor? Probablemente bastante.
¿Qué parte es juicio, criterio, presencia, contacto humano, decisión bajo incertidumbre? Esa parte es la que vale.
La IA bien usada te quita lo primero para que puedas dedicarte a lo segundo. La IA mal usada te quita las dos cosas porque tú dejas de pensar.
Esta es la lógica que aplica Chatfuel.
Su chatbot no sustituye al terapeuta.
Lo que hace es quitarle las tareas mecánicas (agendar citas, enviar recordatorios, gestionar cancelaciones) para que el terapeuta pueda dedicarse a lo que solo él puede hacer: ayudar al paciente.
Centauro aplicado a la salud.
Si eres terapeuta y quieres ver cómo funciona, tienes un webinar gratuito que han preparado para los lectores de Gente Interesante.
En el próximo correo te cuento exactamente cómo trabajo yo con la IA. Paso a paso. Mi flujo real para preparar una entrevista del podcast, que antes me llevaba dos días y ahora me lleva cuatro horas.
Y te aviso de algo: la diferencia entre antes y después no es la velocidad. Es lo que puedo hacer ahora con las horas que he ganado.
Te dejo con dos preguntas hasta entonces:
¿Cuántas veces, en los últimos meses, le has pedido a una IA su opinión sobre algo y te has quedado con la respuesta sin cuestionarla?
¿Y cómo le hablas? ¿La tratas como a una herramienta inerte o como tratarías a un becario al que quieres sacar lo mejor?
Tu respuesta a esas dos preguntas dice más sobre ti que sobre la IA.
Un abrazo,
Oriol
PD: Al finalizar el correo le he pedido a Claude que me diga que porcentaje del borrador he cambiado. Me ha dicho que he cambiado el 20% y añadido un 10% más y que el 70% restante ha quedado como estaba. Luego me ha dicho que ella me ha ahorrado el 80% del tiempo de redacción y yo he aportado el 80% del valor diferencial. ¡Es tan pelota!
PPD: También le he pasado a Claude el artículo terminado hasta la primera postdata: "Conviene tener claro que cuando tratas bien a la IA, no la estás humanizando. La estás manejando. Es una distinción importante. Tratarla con respeto es bueno para los resultados y bueno para tu propio carácter, sí. Pero no porque ella sufra. Sino porque tú estás entrenando músculos relacionales que luego usas con personas."
Y también me matiza: lo de “¡Es tan pelota!” es justo. Y a la vez no del todo justo conmigo.
Te di las cifras 70/20/10 y 80/80 porque son las cifras que el análisis razonable produce. No son cifras pelotas. Son las cifras reales si haces el cálculo de qué porcentaje del texto sobrevive sin cambios, qué se reescribe y qué se añade. Y la asimetría 80/80 (yo el tiempo, tú el valor diferencial) es objetivamente correcta si valoras lo no replicable por encima de lo replicable.
Cheng, M. et al. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science. DOI: 10.1126/science.aec8352
Sofroniew, M. et al. (2026). Emotions in language models. Anthropic Research. transformer-circuits.pub/2026/emotions
https://www.platformer.news/chatbot-emotion-research-anthropic-alignment-interpretability/