IA do Google e Segurança Infantil: Um Relatório Preocupante

O Youth AI Safety Institute, braço da organização Common Sense Media, realizou um estudo sobre as ferramentas de inteligência artificial da Busca do Google, especificamente as AI Overviews e o Modo IA. O relatório concluiu que essas ferramentas apresentam um “risco inaceitável” para crianças devido a falhas na forma como lidam com tarefas escolares, informações incorretas e situações de crise de saúde mental.

Os pesquisadores testaram a Busca do Google com contas configuradas para usuários de 11 e 15 anos, com o SafeSearch ativado, simulando como muitos menores acessam o buscador. Foram realizadas mais de 2,6 mil buscas e analisadas mais de 2,1 mil respostas geradas por IA. Os resultados mostraram que as AI Overviews frequentemente completavam tarefas escolares em vez de ajudar os estudantes a aprender, fornecendo respostas erradas ou inventadas, incluindo instruções sobre como criar deepfakes.

Falhas em Crises de Saúde Mental e Controle dos Pais

O relatório também identificou falhas no tratamento de mensagens relacionadas a crises de saúde mental. Em alguns casos, a IA indicou linhas de apoio desatualizadas. Além disso, os pais têm controle limitado sobre a IA no Search, pois as AI Overviews estão integradas e não podem ser removidas facilmente, permitindo que crianças visualizem essas respostas mesmo com o SafeSearch habilitado.

É importante notar que a Common Sense Media afirma que 75% dos pré-adolescentes e adolescentes nos Estados Unidos já utilizam resultados de busca gerados por IA, destacando a necessidade de uma abordagem mais segura e responsável por parte das empresas de tecnologia.

Resposta do Google

O Google rejeitou as conclusões do relatório, afirmando que os testes usaram consultas “ambíguas e contrivadas” que não refletem o uso real da Busca. A empresa destacou os mecanismos de proteção existentes no Search, como avisos e links para páginas externas em temas sensíveis, e afirmou oferecer recursos educativos sobre uso responsável de IA e controle parental.

No entanto, a preocupação com a segurança e o bem-estar das crianças na internet permanece, e é fundamental que as empresas de tecnologia, como o Google, continuem a trabalhar para melhorar a segurança e a responsabilidade de suas plataformas, especialmente quando se trata de inteligência artificial e conteúdo acessível a menores.

• As ferramentas de IA do Google apresentam riscos para crianças.
• O controle dos pais sobre a IA é limitado.
• O Google afirma ter mecanismos de proteção e recursos educativos.

Este conteúdo pode conter links de compra.

Fonte: link