IA Sinaliza Conteúdo Prejudicial a Crianças no TikTok, Insta e YouTube para Pais

As redes sociais trouxeram novos desafios para pais que buscam proteger seus filhos de conteúdos inadequados para a idade ou prejudiciais à sua formação. Nesse contexto, surge o Sway.ly, um aplicativo que utiliza inteligência artificial para identificar material nocivo em plataformas como TikTok, Instagram e YouTube, sem bloquear o acesso.

O Sway.ly monitora feeds de redes sociais em tempo real, sinalizando conteúdos potencialmente prejudiciais, como mensagens de ódio, misoginia, padrões corporais irreais, violência e desinformação. O diferencial do sistema baseado em IA é que ele não impede o acesso às redes sociais, mas alerta pais e filhos sobre o risco, explica os motivos e oferece orientações sobre como lidar com essas situações.

• Mensagens de ódio;
• Misoginia;
• Padrões corporais irreais;
• Violência;
• Desinformação.

Para funcionar, o aplicativo precisa ser instalado no dispositivo do responsável e no principal aparelho usado pela criança, como um tablet ou celular. A partir daí, o assistente de IA acompanha as contas de redes sociais diretamente, independentemente do aparelho ou local de acesso.

O sistema também mantém a privacidade dos usuários, compartilhando informações apenas com membros da família vinculados à conta ou quando for exigido por lei. O Sway.ly monitora 39 tipos de risco em 10 áreas, incluindo superexposição a conteúdos adultos, assédio, autoimagem, comportamentos de risco, notícias alarmantes e publicidade enganosa.

Ferramentas como a IA do Sway.ly podem auxiliar na identificação e compreensão desses conteúdos, promovendo decisões mais conscientes sobre o uso das redes sociais em família. Com a ajuda da IA, os pais podem ter mais controle sobre o que seus filhos estão acessando e como estão interagindo nas redes sociais.

Este conteúdo pode conter links de compra.

Fonte: link