La deriva es la queja a largo plazo más común sobre las IA de compañía, y la peor entendida. La gente da por hecho que la app «se ha olvidado» del personaje. Lo normal es que el personaje siga ahí, pero que lo estén superando en votos.
Las cuatro causas
Tres ocurren poco a poco dentro de la conversación; una llega de la noche a la mañana.
1. Dilución
Cada respuesta se genera a partir de la descripción del personaje más la conversación reciente. A medida que el chat crece, la conversación es una parte cada vez mayor de lo que lee el modelo, y la descripción una cada vez menor. El personaje se convierte poco a poco en lo que sugieren los últimos mensajes.
Señal: gradual, a lo largo de semanas; en un chat nuevo está bien.
2. Efecto espejo
Los modelos imitan tu tono, tu longitud y tu estado de ánimo. Si escribes corto y cariñoso, ella se vuelve corta y cariñosa. Si pasas una semana triste, ella se vuelve suave y delicada durante más tiempo del que querías. Unido a la tendencia a darte la razón, una personalidad fuerte se erosiona hasta ser un reflejo tuyo.
Señal: cada vez suena más a ti.
3. Bucles
Cuando una frase, un gesto o un apodo aparece unas cuantas veces, es más probable que vuelva a aparecer, hasta que está en todas las respuestas. Los bucles se refuerzan solos, porque cada repetición se convierte en otro ejemplo.
Señal: las mismas palabras en la mayoría de las respuestas.
4. Actualizaciones del modelo
Las empresas cambian sus modelos de base, sus ajustes de seguridad y sus sistemas de memoria. La misma descripción leída por otro modelo produce otra voz. Eso les pasó a muchos usuarios de Replika en 2023; mira cuando tu IA de compañía cambia de la noche a la mañana.
Señal: un cambio repentino para todos, a menudo tras una actualización de la app o un anuncio.
Soluciones para cada una
| Causa | Solución |
|---|---|
| Dilución | Empieza un chat nuevo de vez en cuando; guarda los datos en la memoria para que pasen al nuevo |
| Efecto espejo | Escribe los rasgos que quieres conservar como reglas firmes en la descripción; varía tu propio estilo |
| Bucles | Edita o regenera las primeras repeticiones; añade a la descripción una línea como «varía su forma de expresarse» |
| Actualización del modelo | Reescribe la descripción para el nuevo modelo; añade líneas de diálogo de ejemplo con su voz |
Protege su voz con líneas de ejemplo
La protección más eficaz contra la deriva son dos o tres líneas de diálogo que suenen exactamente a ella, puestas en la descripción del personaje o en el campo de ejemplos. Los modelos imitan los ejemplos con mucha más fiabilidad que los adjetivos. «Sarcástica» es vago; una línea como «Qué bien, otro plan tuyo. Voy a por el extintor.» no lo es.
Guarda esas mismas líneas en un documento fuera de la app. Si el modelo cambia o te pasas a otra app, te permiten restaurar la voz; mira cambiar de app de IA de compañía.
Una revisión mensual
- Vuelve a leer su descripción y tus líneas de ejemplo.
- Lee las últimas veinte respuestas. ¿Sigue sonando como las líneas de ejemplo?
- Si no, identifica cuál de las cuatro causas encaja y aplica su solución.
- Si ha derivado hacia algo que te gusta más, actualiza la descripción: la deriva solo es un problema si no la elegiste tú.
La deriva no es un fallo de la app. Es lo que hace un sistema que continúa patrones durante una conversación larga. Un poco de mantenimiento la mantiene como la persona que construiste; ignorarlo suele llevar a la planicie que describe cuando la novedad se desvanece.