¿Qué pasaría si tu romántico chatbot con IA no pudiera guardar un secreto?

¿Tu chatbot sabe demasiado? Por eso deberías pensártelo dos veces antes de contarle todo a tu compañero de IA.

17 de noviembre de 2025
•
,
4 minutos de lectura

En el Película “tú” El héroe de la película entabla una historia de amor condenada al fracaso con un sistema de inteligencia artificial muy avanzado. En el momento de su lanzamiento en 2013, tal escenario pertenecía firmemente al ámbito de la ciencia ficción. Pero con la llegada de la IA generativa (GenAI) y los grandes modelos de lenguaje (LLM), ha llegado el momento ya no es una perspectiva tan inusual. De hecho, en estos días están proliferando las aplicaciones “compañeras”.

Sin embargo, conectarse con un robot de IA inevitablemente implica riesgos. ¿Cómo sabes que tu información personal no será compartida con terceros? ¿O robado por piratas informáticos? Las respuestas a preguntas como estas le ayudarán a determinar si el riesgo merece la pena.

Buscando amor (digital)

Las aplicaciones complementarias satisfacen una creciente demanda del mercado. AI Friends aprovecha el poder de los LLM y el procesamiento del lenguaje natural (NLP) para interactuar con sus usuarios de manera conversacional y altamente personalizada. Títulos como Character.AI, Nomi y Replika satisfacen una necesidad psicológica y, a veces, romántica de quienes los utilizan. No es difícil ver por qué los desarrolladores están ansiosos por ingresar a este espacio.

Incluso las grandes plataformas se están poniendo al día. Abierto AI dijo recientemente Pronto introducirá “erótica para adultos verificada” y podría permitir a los desarrolladores crear aplicaciones “sofisticadas” basadas en ChatGPT. xAI de Elon Musk también ha comenzado Coqueto compañero de IA en su aplicación Grok.

Resultados de la investigación publicados En julio, se descubrió que casi tres cuartas partes de los adolescentes han utilizado compañeros de IA y la mitad lo hace con regularidad. Aún más preocupante es que un tercio de los encuestados eligió robots de inteligencia artificial en lugar de humanos para conversaciones serias y una cuarta parte compartió información personal con ellos.

Esto es particularmente preocupante a medida que siguen surgiendo historias de advertencia. En octubre, Los investigadores advirtieron que tenía dos aplicaciones complementarias de IA (Chattee Chat y GiMe Chat). revelar inadvertidamente información de usuario altamente confidencial. Una instancia del agente Kafka mal configurada provocó que los sistemas de transmisión y entrega de contenido de estas aplicaciones ya no tuvieran controles de acceso. Esto significaba que cualquiera podía acceder a más de 600.000 fotografías enviadas por usuarios, direcciones IP y millones de conversaciones confidenciales de más de 400.000 usuarios.

Los actores de amenazas oportunistas pueden percibir una nueva oportunidad de ganar dinero. La información que las víctimas comparten en conversaciones románticas con su compañero AI está abierta a chantaje. Imágenes, vídeos y audio podrían introducirse en herramientas deepfake para su uso Estafa de sextorsiónPor ejemplo. O la información personal podría venderse en la web oscura y utilizarse para un posterior fraude de identidad. Dependiendo del estado de seguridad de la aplicación, los piratas informáticos también pueden obtener información de la tarjeta de crédito almacenada para compras dentro de la aplicación. Respectivamente cibernoticiasAlgunos usuarios gastan miles de dólares en este tipo de compras.

Como se ve en el ejemplo anterior, la prioridad de los desarrolladores de aplicaciones de IA es la generación de ingresos, no la ciberseguridad. Esto significa que los actores de amenazas pueden encontrar vulnerabilidades o configuraciones erróneas que puedan explotar. Incluso podrían intentar desarrollar sus propias aplicaciones complementarias similares que oculten códigos maliciosos para robar información o manipular a los usuarios para que revelen datos confidenciales que puedan usarse para fraude o extorsión.

Incluso si su aplicación es relativamente segura, aún puede representar un riesgo para la privacidad. Algunos desarrolladores recopilan tanta información como sea posible sobre sus usuarios para poder revenderla a anunciantes externos. Las políticas de privacidad opacas pueden dificultar la comprensión de si sus datos están protegidos y cómo. También puede descubrir que la información y las conversaciones que comparte con su compañero se utilizan para entrenar o perfeccionar el LLM subyacente, lo que exacerba aún más los riesgos de privacidad y seguridad.

Cómo proteger a tu familia

Ya sea que usted mismo utilice una aplicación complementaria de IA o le preocupe que sus hijos puedan hacerlo, el consejo es el mismo. Supongamos que no existen medidas de seguridad o privacidad integradas en la IA. Y no comparta ninguna información personal o financiera con ellos que no se sentiría cómodo compartiendo con un extraño. Esto incluye fotos/vídeos potencialmente embarazosos o reveladores.

Aún mejor, si usted o sus hijos quieren probar alguna de estas aplicaciones, investigue con anticipación para encontrar las que ofrezcan la mejor seguridad y privacidad. Esto significa que debe leer la política de privacidad para comprender cómo se utilizará y/o compartirá su información. Evitar aquellos que no indiquen explícitamente su uso previsto ni admitan la venta de datos de los usuarios.

Una vez que encuentre su aplicación, asegúrese de habilitar funciones de seguridad como la autenticación de dos factores. Esto ayuda a evitar la apropiación de cuentas mediante contraseñas robadas o por fuerza bruta. Y explore la configuración de privacidad para habilitar la protección. Por ejemplo, puede tener la opción de optar por no guardar sus conversaciones para la capacitación de modelos.

Si le preocupa la seguridad, la privacidad y el impacto psicológico del uso de estas herramientas por parte de sus hijos, inicie un diálogo con ellos para obtener más información. Recuérdeles los riesgos de compartir demasiado y enfatice que estas aplicaciones son una herramienta de lucro que no se preocupa por el bienestar del usuario. Si le preocupa el impacto que puedan tener en sus hijos, puede que sea necesario limitar el tiempo y el uso de la pantalla, tal vez impuesto por Controles/aplicaciones parentales.

No hace falta decir que no debe permitir aplicaciones complementarias de IA cuyas políticas de verificación de edad y moderación de contenido no brinden la protección adecuada a sus hijos.

Queda por ver si los reguladores intervendrán para hacer cumplir reglas más estrictas sobre lo que los desarrolladores pueden y no pueden hacer en este espacio. Los robots románticos actualmente operan en una especie de área gris, aunque uno próxima Ley de Equidad Digital en la UE podría prohibir las experiencias demasiado adictivas y personalizadas.

Hasta que los desarrolladores y reguladores se pongan al día, tal vez sea mejor no tratar a los compañeros de IA como confidentes o muletas emocionales.