Reddit: Como a IA está sendo usada para combater o problema da tecnologia

O Reddit, uma das maiores plataformas de compartilhamento de conteúdo online, enfrenta um desafio constante: combater a avalanche de conteúdos gerados por inteligência artificial (IA). No entanto, a empresa encontrou uma solução inovadora para esse problema: usar a própria IA para combatê-lo.

De acordo com a plataforma, as técnicas de automação com IA ajudaram a reduzir significativamente a quantidade de spam e votos falsos. Mais de 23 milhões de visualizações de spam são bloqueadas diariamente, e cerca de 25 mil posts de spam são identificados todos os dias. Além disso, a exposição a conteúdo indesejado reduziu em 20% nos primeiros três meses do ano.

Os bots de IA também afetam os votos, que são fundamentais para destacar os melhores posts e comentários na plataforma. No entanto, o Reddit conseguiu derrubar cerca de 2 milhões de votos artificiais por dia nos últimos três meses.

IA para combater IA: a estratégia do Reddit

A estratégia do Reddit pode parecer contraditória, mas a IA é a maior arma da empresa contra a IA. A plataforma desenvolveu sistemas automatizados com a tecnologia para identificar possíveis sinais de contas de spam e agir rapidamente. Após detectar os indícios, a plataforma usa LLMs (Modelos de Linguagem Grande) para reconhecer os padrões coordenados de comportamentos falsos que podem passar despercebidos por outros sistemas de moderação.

Essa abordagem permitiu que o Reddit removesse contas criadas por IA e reduzisse a quantidade de spam na plataforma. Além disso, a empresa também trava uma batalha contra a ascensão da IA generativa e foca em ser uma plataforma voltada para humanos.

• Mais de 23 milhões de visualizações de spam são bloqueadas diariamente.
• Cerca de 25 mil posts de spam são identificados todos os dias.
• A exposição a conteúdo indesejado reduziu em 20% nos primeiros três meses do ano.

O CEO da empresa, Steve Huffman, anunciou um sistema de verificação de contas para conter o avanço de bots. Huffman entende que existem “bons bots”, mas foca em combater spam ou contas criadas para simular humanos.

Este conteúdo pode conter links de compra.

Fonte: link