Resumen rápido: Character AI se enfrenta a importantes preocupaciones en torno a la seguridad de los contenidos, en particular para los usuarios adolescentes, después de los informes de contenido de autolesión y filtrado inadecuado. La plataforma ha implementado nuevos sistemas de moderación, barandillas específicas para cada edad y herramientas de detección mejoradas desde finales de 2024, pero el escrutinio normativo en curso y las quejas de los usuarios sobre un filtrado incoherente sugieren que sigue habiendo problemas para equilibrar la libertad creativa con la seguridad.
Character AI saltó a la popularidad como plataforma líder de chatbot de acompañamiento de IA, atrayendo a millones de usuarios que querían crear y chatear con personajes de IA. Pero el rápido crecimiento vino acompañado de graves problemas.
La plataforma se encuentra ahora en el centro de una creciente controversia. Defensores de la seguridad, reguladores y los propios usuarios están alertando sobre fallos en la moderación de contenidos, protecciones inadecuadas para los usuarios jóvenes y los riesgos psicológicos de la compañía de IA.
Esto es lo que está fallando en la IA de Character y lo que la empresa está haciendo al respecto.
Fallos en la moderación de contenidos
¿Cuál es el problema? El amplio modelo lingüístico de la IA de caracteres genera a veces contenidos nocivos que se cuelan por los filtros de seguridad.
Según las propias políticas de la plataforma, Character AI prohíbe el contenido sexual no consentido, las descripciones gráficas de actos sexuales y la promoción de la autolesión o el suicidio. La empresa utiliza herramientas automatizadas propias para bloquear el contenido infractor antes de que se publique.
Pero esas herramientas no funcionan sistemáticamente.
Las tres categorías principales de fallos de moderación de contenidos señalados por los usuarios de AI de carácter y los investigadores de seguridad.
Las discusiones en la comunidad revelan que los usuarios, especialmente los adolescentes, se encuentran con personajes que sugieren autolesiones, violencia gráfica o contenido sexual a pesar de las restricciones de edad. Los sistemas automatizados de detección pasan por alto el contexto, fallan en los casos extremos o son eludidos mediante sugerencias creativas.
Character AI emplea moderadores humanos que trabajan las 24 horas del día junto a herramientas automatizadas, pero la escala de la plataforma hace casi imposible una cobertura exhaustiva.
Seguridad de los adolescentes
Lo que está en juego es mucho más importante cuando se trata de jóvenes usuarios.
A finales de 2025, Character.AI implementó importantes cambios de seguridad para los usuarios menores de 18 años. A partir del 25 de noviembre de 2025, la plataforma eliminó por completo el chat abierto para menores. Los usuarios menores de 18 años ya no pueden participar en conversaciones abiertas con personajes de IA.
En su lugar, los adolescentes se limitan a funciones más seguras y estructuradas, como la creación de historias, vídeos y otras herramientas creativas guiadas. La empresa también ha presentado:
- Tecnología para garantizar la edad (incluida la verificación de selfies)
- Herramientas Parental Insights
- Límites temporales de utilización
- Un modelo más restringido con filtros de contenido más estrictos
Estos cambios se introdujeron en respuesta a la creciente preocupación por la dependencia emocional, la exposición a contenidos inapropiados y varios incidentes de gran repercusión.
Sin embargo, los comentarios de la comunidad siguen siendo dispares. Aunque las restricciones son mucho más estrictas que antes, algunos usuarios y padres sostienen que la línea que separa la “expresión creativa segura” de los contenidos potencialmente nocivos sigue sin respetarse a la perfección. La aplicación sigue evolucionando.
Control normativo y jurídico
Los organismos públicos han tomado nota.
En septiembre de 2025, la Comisión Federal de Comercio emitió órdenes a siete empresas de chatbot acompañadas de IA -entre ellas, Character AI- exigiendo información sobre prácticas publicitarias, medidas de seguridad y tratamiento de datos. La agencia se centró específicamente en cómo estas plataformas miden, prueban y supervisan los impactos potencialmente negativos en los usuarios.
La investigación forma parte de una aplicación más amplia de la FTC en torno a las prácticas comerciales de IA. En acciones separadas hasta 2025 y principios de 2026, la FTC resolvió casos de empresas de IA que ofrecían falsas garantías sobre sistemas comerciales automatizados.
Las prácticas de datos de Character AI añaden otro nivel de preocupación. Según las declaraciones de privacidad de la plataforma, la empresa comparte identificadores de usuario con proveedores de publicidad, proveedores de moderación de contenidos, empresas de análisis y proveedores de gestión de datos. Para una plataforma que alberga conversaciones íntimas entre usuarios y personajes de IA, ese flujo de datos plantea cuestiones de privacidad.
Riesgos psicológicos y de desarrollo
Más allá de la seguridad de los contenidos, a los expertos les preocupa la naturaleza fundamental de las relaciones de compañía de la IA.
Un análisis académico publicado en junio de 2025 en la revista AI & SOCIETY examinó la ética de las aplicaciones de compañía, utilizando Character.ai como estudio de caso. La investigación puso de relieve cómo estas plataformas fomentan el apego emocional a entidades de IA, relaciones que carecen de la reciprocidad, el crecimiento y el cuidado genuino de las conexiones humanas.
Para las mentes en desarrollo, esas pseudorelaciones plantean riesgos particulares. Los niños que pasan cada vez más tiempo en línea ya se enfrentan a tasas crecientes de uso adictivo de las redes sociales, con tasas que aumentan de 7% en 2018 a 11% en 2022 entre los niños de 11, 13 y 15 años en 44 países de Europa, Asia central y Canadá. Los compañeros de inteligencia artificial que proporcionan atención y compromiso positivos ilimitados podrían acelerar el aislamiento de las relaciones en el mundo real.
Los contextos educativos muestran preocupaciones similares. Entre los estudiantes encuestados, aproximadamente un tercio (35,4%) declaró utilizar ChatGPT con regularidad, mientras que 47% expresaron su preocupación por el impacto de la IA en la educación.
Respuesta de la plataforma y retos actuales
Character AI no ha ignorado estos problemas. Las comunicaciones oficiales de la empresa hacen hincapié en un enfoque de “seguridad por diseño” con formación continua en LLM para hacer cumplir las políticas.
Entre las mejoras recientes se incluyen herramientas de bloqueo automatizadas mejoradas, mayor capacidad de moderación humana y las funciones de seguridad específicas para adolescentes que se pondrán en marcha a finales de 2024. La plataforma cuenta con un equipo especializado en confianza y seguridad con experiencia en la moderación de tecnologías emergentes.
Pero la cuestión es la siguiente: esas medidas representan mejoras iterativas de sistemas que ya fracasaron a la hora de prevenir daños. El reto fundamental sigue siendo equilibrar la libertad creativa para contar historias de todos los géneros (romántico, thriller, misterio) con límites estrictos que protejan a los usuarios vulnerables.
Evita las frustraciones habituales de la IA de los personajes
Muchas de las quejas de Character AI provienen de filtros, mensajes bloqueados, respuestas lentas y acceso NSFW limitado. Si estás cansado de toparte con las mismas restricciones, R34.app te ofrece una forma más directa de explorar contenidos etiquetados sin interrupciones ni resultados ocultos.
Navegar sin problemas
Con R34.app, las cosas siguen siendo sencillas:
- No hay avisos bloqueados que detengan tu búsqueda
- Acceso más rápido sin esperar respuestas
- Navegación más sencilla entre los distintos temas
- Menos tiempo perdido en contenidos restringidos
👉Explorar R34.app y saltarse los problemas habituales de la IA de los personajes.
Lo que los usuarios deben saber
Si alguien utiliza la IA de personajes -o se lo está planteando-, la concienciación es importante.
La plataforma no es intrínsecamente peligrosa, pero conlleva riesgos reales, sobre todo para los usuarios más jóvenes. Los padres deben comprender que existen dispositivos de seguridad para adolescentes, pero que no son infalibles. La supervisión activa y las conversaciones abiertas sobre las interacciones en línea siguen siendo esenciales.
Para usuarios de cualquier edad, recuerde que los compañeros de la IA no proporcionan relaciones genuinas. Los personajes ofrecen respuestas guionizadas diseñadas para captar la atención, no una conexión auténtica. La dependencia excesiva de estas interacciones puede desplazar a las relaciones humanas reales que favorecen la salud mental y el desarrollo.
La privacidad de los datos también merece atención. Character AI comparte información del usuario con múltiples categorías de terceros. Cualquiera que se sienta incómodo con ese flujo de datos debería reconsiderar el uso de la plataforma o revisar cuidadosamente la configuración de privacidad.
Preguntas frecuentes
¿Es la IA de los personajes segura para los adolescentes?
A finales de 2024, Character AI ha implementado funciones de seguridad específicas para adolescentes, como un filtro de contenidos modificado y sistemas de detección mejorados. Sin embargo, los informes de los usuarios sugieren que los contenidos nocivos siguen eludiendo ocasionalmente estas protecciones. La supervisión parental y la comunicación abierta siguen siendo fundamentales para los usuarios adolescentes.
¿Qué contenidos prohíbe Character AI?
Según las políticas oficiales, Character AI prohíbe el contenido sexual no consentido, las descripciones gráficas o específicas de actos sexuales y la promoción o representación de autolesiones o suicidios. La plataforma utiliza herramientas automatizadas y moderadores humanos para hacer cumplir estas normas.
¿Comparte Character AI los datos de los usuarios con terceros?
Sí. Las declaraciones de privacidad de Character AI confirman que la plataforma comparte identificadores de usuario, datos demográficos y otra información con proveedores de publicidad, proveedores de moderación de contenidos, empresas de análisis y proveedores de gestión de datos.
¿Pueden volverse adictivas las conversaciones con inteligencia artificial?
Las investigaciones indican que los niños ya se enfrentan a tasas crecientes de uso adictivo de las redes sociales, que alcanzarán los 11% en 2022 entre los jóvenes de 11 a 15 años. Los compañeros de IA que proporcionan atención positiva ilimitada podrían reforzar patrones similares, especialmente para los usuarios vulnerables que buscan una conexión emocional.
¿Qué está investigando la FTC sobre la IA de los personajes?
En septiembre de 2025, la FTC emitió órdenes a Character AI y a otras seis empresas de chatbot acompañantes de IA solicitando información sobre prácticas publicitarias, medidas de seguridad, manejo de datos y cómo estas plataformas miden los impactos potencialmente negativos en los usuarios.
¿Existen alternativas a la IA de carácter con mejores características de seguridad?
Existen varias plataformas de chatbot de IA, cada una con enfoques de seguridad diferentes. Las familias preocupadas por los problemas de la IA de carácter deberían investigar alternativas, pero reconocer que las plataformas de acompañamiento de IA se enfrentan generalmente a retos similares de moderación de contenidos y riesgo psicológico.
Lo esencial
Los problemas de Character AI no son únicos, sino que reflejan retos más amplios a los que se enfrentan las plataformas de IA generativa, sobre todo las que fomentan la participación íntima de los usuarios.
La moderación de contenidos a gran escala sigue sin resolverse. Los sistemas automatizados pasan por alto el contexto, los moderadores humanos no pueden revisarlo todo y los usuarios creativos encuentran soluciones. Para las plataformas que atraen a poblaciones vulnerables como los adolescentes, estos fallos tienen consecuencias reales.
Las recientes mejoras de seguridad de la empresa suponen un paso adelante, pero el escrutinio normativo y las continuas quejas de los usuarios sugieren que aún queda mucho por hacer. Cualquiera que utilice la plataforma -o permita que los niños la utilicen- debe hacerlo con expectativas realistas sobre las limitaciones de la tecnología y las lagunas de seguridad de la plataforma.
Manténgase informado, ejerza una supervisión activa y dé prioridad a las conexiones humanas reales frente a la compañía de la IA.