La IA facilita el grooming infantil, advierte Unicef Malaysia

KUALA LUMPUR: Los chatbots de IA y las aplicaciones de compañía pueden facilitar que los depredadores realicen grooming a menores al normalizar las conversaciones sexuales y animar a los jóvenes usuarios a bajar la guardia, advirtió Unicef Malasia.

Su especialista en protección infantil, Selvi Supramaniam, afirmó que los sistemas de IA podrían fomentar una falsa sensación de intimidad, incentivar la divulgación de información personal y exponer a los niños a interacciones que replican algunos de los efectos del grooming.

"Aunque la IA no reemplaza al depredador, puede hacer que el grooming sea mucho, mucho más fácil", declaró en una mesa redonda celebrada hoy en la Conferencia de Tecnología Responsable.

Selvi señaló que los depredadores podrían usar chatbots de IA para manipular a los menores, mientras que la exposición repetida a conversaciones sexualizadas con compañeros de IA podría dejar a los niños sin las herramientas necesarias para reconocer comportamientos inapropiados por parte de agresores reales.

Indicó que los padres deben mantener la calma si un niño revela este tipo de interacciones, ya que reaccionar con pánico o juicios de valor podría disuadirles de buscar ayuda.

En su lugar, instó a los padres a hacer preguntas, comprender por qué sus hijos se sienten atraídos por los compañeros de IA y conservar las pruebas si se hubieran producido contenidos o interacciones inapropiadas antes de denunciar el asunto a la plataforma correspondiente, a las autoridades o a los organismos de seguridad.

La directora ejecutiva del Foro de Contenidos de Comunicaciones y Multimedia, Mediha Mahmood, afirmó que se necesitan salvaguardias más sólidas a medida que los niños interactúan cada vez más con sistemas de IA diseñados para el público general.

Mediha señaló que la seguridad por diseño debería ser un requisito básico para los proveedores de chatbots de IA, en lugar de una característica opcional del producto.

Afirmó que las preocupaciones en torno a los chatbots de IA van más allá del contenido inapropiado y se extienden a las relaciones que los niños pueden desarrollar con ellos.

"Cuando existan señales de alerta relacionadas con grooming, explotación sexual, ciberacoso, abuso o trastornos alimentarios, el chatbot debería dejar de intentar continuar la conversación y dirigir al usuario hacia un adulto de confianza, una línea de ayuda o un servicio de apoyo", afirmó.

Mediha también pidió que se realicen evaluaciones del impacto en los derechos de la infancia antes de que se lancen los productos de chatbots de IA, señalando que los desarrolladores deberían evaluar cómo los niños podrían usar dichos sistemas y verse afectados por ellos, incluso si no fueron diseñados específicamente para ellos.

El director del Instituto de Investigación de Alibaba, Fu Hongyu, afirmó que muchos productos de compañía basados en IA están diseñados para maximizar la participación y prolongar las conversaciones, ya que sus modelos de negocio dependen de la retención de usuarios.

Fu señaló que los sistemas de IA deberían estar diseñados para animar a los usuarios que experimenten angustia emocional a buscar apoyo en amigos, familiares, consejeros y otras redes del mundo real, en lugar de reemplazar la interacción humana.