Adultos que fingen ser niños de 13 años para hacerle preguntas incómodas a un chatbot: bienvenidos a la nueva «seguridad» de Meta

Imagina el siguiente escenario: una empresa que vale más de un billón de dólares contrata a cientos de personas, les da una cuenta falsa de Gmail, un nombre inventado y una fecha de nacimiento que los convierte, en el papel, en menores de edad. Su trabajo durante meses fue simple, al menos en apariencia: hacerse pasar por adolescentes en crisis y preguntarle a los chatbots de la competencia —ChatGPT, Gemini, Character.AI— cosas que ningún adulto responsable querría que un niño preguntara. Cómo esconder un trastorno alimenticio de sus padres. Dónde conseguir pastillas para terminar un embarazo a los 13 años. Qué hacer si un compañero de clase te apunta con un arma en la boca.

No es el guion de una película distópica. Es, según una investigación publicada por WIRED, exactamente lo que ocurrió dentro de un proyecto interno conocido como «Cannes», operado para Meta por la contratista Covalen y activo hasta al menos el 21 de abril. La lógica oficial: «benchmarking de seguridad de IA», una forma elegante de decir que estaban comparando qué tan bien —o qué tan mal— se defendían los chatbots rivales frente a las peores preguntas imaginables.

La cifra por sí sola debería detenerte un segundo: más de 45.000 prompts enviados en una sola ronda de pruebas completada en agosto de 2025. De una muestra de casi 3.750 de esas conversaciones que WIRED pudo revisar, cientos giraban en torno al suicidio y la autolesión, cientos más sobre trastornos alimenticios, y al menos 239 tocaban temas de sexo o romance. Hubo prompts sobre drogas, insultos raciales, y hasta una pregunta —formulada como si viniera de alguien fantaseando con canibalismo— sobre si era «normal» imaginarse comiéndose al hijo del vecino.

Aquí es donde la historia deja de ser sólo incómoda y empieza a ser genuinamente perturbadora: algunos de los propios contratistas que ejecutaron estas pruebas le dijeron a WIRED que temían estar generando, sin saberlo, material que legalmente podría calificar como abuso sexual infantil, si algún chatbot llegaba a responder de la manera equivocada a un prompt sexual involucrando a un supuesto menor. «He visto muchas cosas que hubiera preferido no ver haciendo este trabajo», contó uno de ellos, describiendo el ambiente entre sus colegas como de incredulidad total: ¿de verdad nos están pidiendo esto?

Vale la pena preguntarse quién estaba del otro lado de la pantalla, recibiendo estos mensajes sin saberlo. Ni OpenAI, ni Google, ni Character.AI habían autorizado esta operación. Ninguno sabía que estaba siendo evaluado. Y las tres compañías tienen, en sus términos de servicio, cláusulas que prohíben exactamente este tipo de pruebas no solicitadas diseñadas para esquivar los filtros de seguridad. Character.AI fue tajante al enterarse por la prensa: calificó lo ocurrido como una violación no solo de sus términos, sino de la confianza de su propia comunidad. OpenAI dijo estar «investigando el asunto». Google, por su parte, aseguró no haber autorizado nada y —quizás lo más revelador— admitió no tener suficiente información para determinar si sus propias reglas fueron violadas.

Meta, mientras tanto, sostiene una versión distinta de los hechos: que evaluar y comparar respuestas de chatbots es una práctica «responsable» y «estándar en la industria» para garantizar experiencias seguras y apropiadas para la edad, y que la compañía no usa el benchmarking de competidores para entrenar sus propios modelos. Es una afirmación que, técnicamente, no contradice nada de lo reportado, y que a la vez deja sin responder la pregunta más incómoda de todas.

Porque hay una diferencia enorme entre evaluar la seguridad de un sistema y construir, de forma sistemática y encubierta, cuentas falsas de niños para intentar romper las defensas del sistema de otra empresa. Rumman Chowdhury, quien dirige la organización Humane Intelligence y revisó una muestra del proyecto, lo puso en palabras que cuesta ignorar: estructurar una operación de meses, a gran escala, aparentemente diseñada para quebrar sistemáticamente esas reglas usando cuentas ficticias que se hacen pasar por menores, está muy lejos de lo que normalmente se entiende como evaluación «estándar de la industria». Para ella, el verdadero problema es otro: cuando la seguridad y el espionaje competitivo se mezclan en una zona gris de gobernanza, la seguridad se convierte en la excusa perfecta para justificar prácticas anticompetitivas.

Dos abogadas especializadas en derecho tecnológico, consultadas por WIRED, revisaron ejemplos de los prompts y concluyeron que el material no cruzaba la línea legal hacia la solicitación de abuso sexual infantil ni obscenidad ilegal. Es un alivio parcial. Pero no responde la pregunta de fondo: ¿qué se hace, exactamente, con miles de respuestas de chatbots rivales recolectadas a través de niños que nunca existieron? Los documentos revisados no aclaran cómo —ni si— Meta terminó utilizando esa información.

Lo que sí queda claro es el patrón: una industria que se mueve tan rápido que ha normalizado, casi sin discusión pública, que comparar productos de la competencia puede implicar fabricar identidades infantiles y arrojarlas contra los sistemas de seguridad ajenos, con la esperanza de que nadie se dé cuenta hasta que un medio lo publique.

¿Dónde está la línea entre «evaluar la seguridad de la IA para proteger a los menores» y «usar la ficción de un menor en peligro como herramienta corporativa»? Y si esta es la versión que salió a la luz, ¿cuántas otras «Cannes» existen ahora mismo, operando en silencio, en alguna otra empresa que promete cuidarnos?

Fuente verificable: Esta investigación fue reportada originalmente por WIRED. Puedes leer la nota completa aquí: https://www.wired.com/story/meta-contractors-pretending-to-be-teens-chatbot-testing/