La expansión de los asistentes de inteligencia artificial está introduciendo una nueva cuestión en el debate sobre menores y tecnología. Durante años, las preocupaciones se concentraron en las redes sociales, los algoritmos de recomendación, el scroll infinito y el tiempo de pantalla. Los chatbots añaden ahora un elemento diferente: una máquina capaz de mantener conversaciones individualizadas, recordar contexto y responder directamente a lo que un menor acaba de decirle.

Tom Siegel, antiguo responsable de Trust and Safety de Google y primer director ejecutivo del Youth AI Safety Institute creado por Common Sense Media, ha advertido de que la industria tecnológica corre el riesgo de desplegar sistemas de inteligencia artificial para menores antes de disponer de salvaguardas suficientemente maduras.

Su planteamiento, recogido por Reuters, constituye una advertencia basada en su experiencia profesional y no una demostración de que la IA vaya necesariamente a causar daños superiores a los producidos por las redes sociales. Los efectos a largo plazo de la interacción habitual de niños y adolescentes con sistemas conversacionales continúan siendo objeto de investigación.

De consumir contenido a conversar con una máquina

Las redes sociales construyeron buena parte de su funcionamiento alrededor de sistemas que seleccionan qué contenido mostrar a cada usuario. La inteligencia artificial conversacional modifica esa relación.

El usuario ya no se limita a consumir vídeos, fotografías o publicaciones elegidas por un algoritmo. Puede formular una pregunta personal y recibir inmediatamente una respuesta adaptada a sus palabras, continuar la conversación durante horas y regresar posteriormente al mismo sistema.

Esta capacidad ofrece aplicaciones evidentes en educación, creatividad o acceso a información. También crea un problema de seguridad diferente cuando la conversación entra en ámbitos emocionalmente delicados y el interlocutor es un menor.

Un asistente puede estar disponible a cualquier hora y responder con un lenguaje que resulte cercano o convincente. Por ello, el diseño de estos sistemas necesita considerar no solo qué información proporcionan, sino también cómo reaccionan ante situaciones de vulnerabilidad y qué límites establecen en determinadas conversaciones.

El precedente de las redes sociales preocupa a quienes trabajaron en su seguridad

Siegel trabajó en Google entre 2004 y 2019 y participó en la creación de su equipo de Trust and Safety. Su preocupación parte de una secuencia que la industria tecnológica ya conoce: productos que alcanzan una enorme difusión antes de que se comprendan plenamente todos sus efectos y sistemas de protección que evolucionan posteriormente a medida que aparecen nuevos problemas.

El riesgo, según su planteamiento, es que la inteligencia artificial reproduzca ese patrón a una escala diferente. Los sistemas conversacionales pueden integrarse rápidamente en el estudio, el entretenimiento y las relaciones digitales de los adolescentes mientras las compañías, reguladores, familias e investigadores todavía están definiendo qué medidas resultan adecuadas.

La verificación de edad vuelve a convertirse en un problema central

Una de las cuestiones concretas señaladas por Siegel es la verificación de edad. Una plataforma puede establecer protecciones distintas para adultos y menores, pero esas reglas pierden parte de su eficacia si resulta sencillo declarar una edad diferente a la real.

Resolver el problema tampoco es sencillo. Los mecanismos débiles pueden ser fácilmente sorteados. Los sistemas más rigurosos pueden exigir documentos de identidad, imágenes u otros datos personales, lo que introduce nuevas preguntas sobre privacidad, almacenamiento de información y seguridad.

Aparece así una tensión característica de la seguridad digital: proteger mejor a un menor puede requerir conocer más información sobre él, precisamente cuando los principios de privacidad aconsejan recopilar únicamente los datos estrictamente necesarios.

La seguridad de un chatbot no consiste solamente en bloquear palabras

El Youth AI Safety Institute pretende desarrollar criterios independientes con los que evaluar cómo las compañías protegen a niños y adolescentes. Entre sus financiadores se encuentran Anthropic y la OpenAI Foundation, según Reuters.

La seguridad de un asistente conversacional puede abarcar numerosos elementos: mecanismos de edad, diseño de las conversaciones, detección de situaciones de riesgo, límites a determinadas interacciones, transparencia sobre la naturaleza artificial del sistema y procedimientos para evaluar los modelos antes y después de su lanzamiento.

También resulta relevante determinar qué ocurre cuando el sistema detecta una conversación potencialmente peligrosa, hasta dónde puede intervenir y cómo se evita que una respuesta aparentemente bien intencionada termine reforzando una conducta perjudicial.

Externalizar tareas cognitivas añade otra dimensión

Siegel incluye entre sus preocupaciones el denominado cognitive offloading, la externalización hacia la tecnología de determinadas tareas que anteriormente realizaba directamente la persona.

El fenómeno no comenzó con la inteligencia artificial. Una calculadora externaliza operaciones aritméticas; un GPS, parte de la orientación espacial; un buscador, una parte de la recuperación de información. Los asistentes generativos amplían considerablemente el abanico de funciones que pueden delegarse.

Un chatbot puede buscar y resumir información, estructurar argumentos, redactar textos, comparar alternativas y mantener conversaciones sobre cuestiones personales. Esto no demuestra que utilizar estas herramientas reduzca necesariamente la capacidad crítica o cognitiva de los menores. Determinar los efectos, su intensidad y las posibles relaciones causales requiere investigación.

Sí explica, en cambio, por qué educadores y especialistas en seguridad estudian qué capacidades deberían continuar ejercitándose directamente incluso cuando una máquina pueda realizarlas con mayor rapidez.

Un asistente puede adquirir una apariencia de confianza

Existe además una diferencia fundamental entre una herramienta tradicional y un sistema conversacional. Una calculadora no pretende mantener un diálogo. Un chatbot utiliza lenguaje natural, responde inmediatamente y puede adaptar su contestación al contexto proporcionado por el usuario.

Ese comportamiento puede hacer que el sistema sea percibido como un interlocutor y no simplemente como una herramienta informática. En adultos, esta característica ya obliga a recordar que una respuesta fluida o convincente no garantiza que sea correcta. En menores, el diseño necesita considerar además diferencias de edad, madurez y capacidad para interpretar la naturaleza del sistema.

La industria todavía está a tiempo de incorporar las protecciones

La experiencia acumulada con las redes sociales ofrece al menos una ventaja: empresas, reguladores e investigadores conocen mejor las consecuencias de analizar la seguridad únicamente después de que una tecnología haya alcanzado cientos de millones de usuarios.

La inteligencia artificial generativa plantea ahora un escenario distinto porque el producto no se limita a mostrar información seleccionada algorítmicamente. Responde directamente al usuario y puede hacerlo dentro de una conversación prolongada y personalizada.

La advertencia de Siegel no permite anticipar cuál será el impacto final de estos sistemas sobre niños y adolescentes. Sí señala una cuestión que la industria tendrá que resolver mientras la adopción continúa creciendo: si las protecciones evolucionarán al mismo ritmo que las capacidades de los modelos o volverán a construirse después de que la tecnología se haya integrado profundamente en la vida cotidiana de los menores.