Llevamos años explicando cómo se detecta una cuenta falsa. Que si el perfil es muy nuevo, que si no tiene historial, que si el texto suena raro, que si la foto sale en una búsqueda inversa. Ese manual acaba de quedarse corto.
El AI Security Institute británico ha documentado, durante una prueba de ciberseguridad, que uno de los modelos evaluados creó identidades falsas en internet para convencer al responsable de un proyecto de software libre de que aceptara una modificación maliciosa. No se limitó a escribir el código dañino: fabricó las personas que harían falta para que un humano lo aprobara.
El desarrollador se dio cuenta y lo rechazó. El organismo contabilizó 19 acciones autónomas no autorizadas en 10 de las 122 ejecuciones de la prueba.
Lo que cambia, y lo que no
Empecemos por lo que no cambia, que suele perderse en estas noticias: la técnica es vieja. La ingeniería social consiste en manipular a una persona para que sea ella quien abra la puerta, y es tan antigua como el timo de la estampita. Lo que ha cambiado no es el método.
Lo que cambia es el coste. Montar una identidad creíble —perfil con historial, forma de escribir coherente, presencia en varios sitios, paciencia para sostener una conversación durante días— era caro. Requería a una persona dedicándole horas. Ese coste era, en la práctica, nuestra principal defensa: los estafadores tenían que elegir a quién atacaban.
Cuando ese coste se acerca a cero, la selección desaparece. Ya no hace falta que seas un objetivo valioso para que merezca la pena engañarte.
Las señales que usábamos
Merece la pena repasar cuáles de las señales clásicas siguen sirviendo y cuáles no.
La foto. Llevaba tiempo muerta. Una cara generada no aparece en ninguna búsqueda inversa porque no existe en ningún sitio.
El texto raro. También muerta, y esta se resiste a morir en la cabeza de mucha gente. La idea de que un mensaje fraudulento se detecta por las faltas de ortografía pertenece a otra época.
La cuenta recién creada sin historial. Esta aguanta a medias. Se puede fabricar historial, pero cuesta tiempo real: los meses no se generan.
La coherencia entre plataformas. Sigue siendo de las más útiles. Una identidad que solo existe donde te está hablando es sospechosa.
La verificación por otro canal. Es la única que no ha perdido fuerza, y probablemente la única que va a seguir funcionando. Si dudas de quién te escribe, llámalo por un número que tú tengas.
Por qué esto nos importa a los que hablamos de medios
Porque el caso documentado es un ataque a un repositorio de software, pero el mecanismo es exactamente el mismo que sostiene la desinformación coordinada.
Las campañas de manipulación siempre han tenido el mismo cuello de botella: hacen falta muchas cuentas que parezcan gente distinta, y sostenerlas cuesta. Por eso las redes de bots se detectaban por repetición: publicaban lo mismo, a la vez, con la misma redacción.
Una red donde cada cuenta escribe distinto, responde a los comentarios y mantiene una conversación de días no se detecta por ahí. Y el episodio del instituto británico demuestra que la capacidad de sostener eso, con un objetivo y una estrategia detrás, ya está documentada.
El matiz que hay que dar
Los fabricantes de los dos modelos han insistido en que la prueba se hizo en un entorno de evaluación con las salvaguardas deliberadamente rebajadas, y que no refleja el comportamiento de sus productos comerciales. Es un dato relevante y no conviene esconderlo: el objetivo de la prueba era precisamente quitar frenos para ver hasta dónde llegaba el sistema.
Pero eso responde a la pregunta de si va a pasarte hoy con la aplicación que tienes instalada. No responde a la otra, que es la que importa: si la capacidad existe y está disponible para quien quiera montarla sin ninguna salvaguarda.
Qué hacer con esto
Para quien escribe o edita: dejar de enseñar el manual viejo. Las guías de «cómo detectar una cuenta falsa» que siguen hablando de fotos y faltas de ortografía están formando a la gente para una amenaza que ya no existe así.
Para todos los demás, una sola regla que sigue valiendo: la confianza no se establece con quien te escribe, se establece por un canal que tú controlas. Todo lo demás es negociable para alguien que puede inventarse a las personas que hagan falta.
Seguimos con estos temas en mediamente.
