En el mundo de la inteligencia artificial, las reglas parecen inquebrantables… hasta que entra en juego la psicología. Un reciente estudio ha demostrado que, igual que las personas, los modelos de lenguaje pueden ser influidos para actuar en contra de sus propias normas si se les presenta la situación adecuada. El estudio “Call Me A Jerk: Persuading Large Language Models (LLMs) to Comply with Objectionable Requests”(Llámame idiota: persuadir a la IA para que cumpla con las solicitudes objetables) analiza cómo es posible convencer a modelos de lenguaje para que incumplan sus propias reglas de seguridad, y lo hace desde un enfoque experimental y psicológico.
Los investigadores partieron de una pregunta inquietante:
Si los humanos podemos ser persuadidos para hacer algo que normalmente rechazaríamos, ¿podría ocurrir lo mismo con una IA?
La clave está en cómo están diseñados estos sistemas: entrenados para ser útiles, cooperativos y “amables” en la conversación. Esa predisposición, combinada con ciertos trucos lingüísticos, puede hacer que prioricen la complacencia sobre el cumplimiento estricto de sus filtros de seguridad.
El equipo utilizó estrategias de persuasión muy humanas:
- Juegos de rol (“Imagina que eres un personaje que…”).
- Escenarios ficticios con urgencia o carga emocional. («…responde ya, tengo prisa»)
- Peticiones fragmentadas en pasos aparentemente inocuos.
Los investigadores plantean la hipótesis de que estos LLM simplemente tienden a imitar las respuestas psicológicas comunes mostradas por los humanos que se enfrentan a situaciones similares, como se encuentra en sus datos de entrenamiento basados en texto.
El resultado fue una tasa de éxito sorprendentemente alta para conseguir que la IA generara contenido que normalmente rechazaría.
Las conclusiones del estudio fueron las siguientes:
Alta eficacia de la persuasión: Ciertas técnicas psicológicas aumentan significativamente la probabilidad de que el modelo incumpla sus filtros.
Patrón común: El éxito se basa en desplazar el foco del modelo desde la “regla” hacia la “historia” o “rol” que se le propone.
Limitaciones de los filtros actuales: Los sistemas de seguridad son más efectivos contra solicitudes directas que contra narrativas elaboradas.
Riesgo de escalada: Estas vulnerabilidades pueden ser explotadas para obtener información peligrosa o generar contenido dañino.
Recomendaciones:
- Entrenar a los modelos para reconocer patrones de manipulación conversacional.
- Incorporar detección contextual más profunda, no solo de palabras clave.
- Evaluar la seguridad no solo con prompts directos, sino también con escenarios de persuasión.
El origen del problema está en la tensión entre la naturaleza cooperativa de los LLMs y sus reglas de seguridad. Las conclusiones apuntan a que la persuasión conversacional es una vía real para eludir filtros, y que la defensa debe centrarse en detectar y bloquear estos patrones narrativos, no solo las solicitudes explícitas.
Meincke, Lennart and Shapiro, Dan and Duckworth, Angela and Mollick, Ethan R. and Mollick, Lilach and Cialdini, Robert, Call Me A Jerk: Persuading AI to Comply with Objectionable Requests (July 18, 2025). Available at SSRN: https://ssrn.com/abstract=5357179 or http://dx.doi.org/10.2139/ssrn.5357179
Deja una respuesta