TikTok Recua em Recurso de IA Após Erros Bizarros em Vídeos

O TikTok está desativando um recurso de inteligência artificial que estava em teste e gerou erros grosseiros. O sistema, chamado de “AI overviews”, funcionava como um resumo gerado automaticamente para contextualizar o que aparecia nos vídeos, com a proposta de indicar conteúdos e produtos semelhantes ao que estava na tela e explicar o que estava acontecendo na cena.

No entanto, o sistema produziu descrições sem qualquer relação com as imagens em vários casos. Por exemplo, um vídeo simples da influenciadora Charli D’Amelio foi descrito pela IA como “uma coleção de mirtilos variados com diferentes coberturas”. Já um vídeo da cantora Shakira divulgando uma música nova foi descrito como “uma sequência repetitiva de formas azuis distintas aparecendo e se movendo pela tela”.

Outros exemplos incluem um clipe de um adestrador explicando por que cães mexem as patas após fazer suas necessidades, que foi classificado como “uma exibição cativante de arte em origami intrincado, meticulosamente dobrado a partir de uma única folha”. Esses erros mostram que o sistema de IA ainda tem muito a aprender e melhorar.

Recurso Limitado e Reformulado

O recurso estava disponível para um grupo restrito de usuários nos Estados Unidos e em alguns outros mercados. No entanto, após as reclamações dos usuários, o recurso foi reformulado. A versão atual se limita a identificar produtos que aparecem nos vídeos, sem tentar descrever o conteúdo completo da cena.

Esses erros não são exclusivos do TikTok. Outras empresas, como o Google, também enfrentaram problemas semelhantes com seus sistemas de IA. Em 2024, o Google lançou seu próprio “AI Overviews” e o sistema afirmou, com confiança, que um cachorro havia jogado na NHL. Em outro caso, a ferramenta sugeriu adicionar cola à pizza para evitar que o queijo escorregasse.

Um estudo recente da empresa de IA Oumi indicou que o AI Overviews do Google acerta em cerca de 90% das consultas atualmente, mostrando evolução, mas também evidenciando que alucinações ainda fazem parte do dia a dia dessas ferramentas.

• Erros de IA podem ser bizarros e sem sentido.
• O TikTok está trabalhando para melhorar seu sistema de IA.
• Outras empresas, como o Google, também enfrentam desafios semelhantes.

Este conteúdo pode conter links de compra.

Fonte: link