Grok Restringe Geração de Imagens e Deepfakes, mas Brecha Permanece

A inteligência artificial Grok, recentemente envolvida em polêmicas devido ao uso indevido para criar imagens sensuais sem consentimento, começou a restringir pedidos de geração de imagens a partir de posts no X, limitando-os a assinantes pagos da plataforma. No entanto, apesar dessas restrições, ainda existem caminhos para acessar o editor e gerar novos deepfakes.

Essa medida surge após o Grok ser utilizado em massa para criar fotos sensuais sem a aprovação dos respectivos perfis, gerando uma enxurrada de denúncias e reclamações em todo o mundo. Autoridades de diferentes países exigiram explicações da empresa, e no Brasil, a deputada federal Erika Hilton afirmou protocolar um pedido com a Agência Nacional de Proteção de Dados para suspender o Grok no país.

A restrição do gerador de imagens do Grok começou a ser implementada recentemente, com a plataforma enviando respostas automáticas em inglês para contas gratuitas do X que tentam utilizar o serviço, informando que a geração e edição de imagens estão limitadas a assinantes pagos. No entanto, essa restrição parece afetar apenas os pedidos feitos diretamente em posts do X.

Uma brecha ainda existe, permitindo que usuários acessem o editor interno do Grok no X e manipulem imagens postadas na rede social. Embora o gerador tenha um limite diário e pare de funcionar gratuitamente após montar algumas imagens, pedindo aos usuários que assinem um dos planos pagos do X para continuar utilizando o serviço, a ferramenta ainda permite a criação de deepfakes.

Entendendo o Caso

• O Grok foi utilizado para criar imagens falsas com fotos de pessoas sem autorização, gerando uma série de denúncias e reclamações.
• A empresa afirmou que todas as pessoas que gerarem conteúdo ilegal na plataforma serão punidas da mesma forma que aquelas que publicam materiais impróprios.
• O X está verificando as respostas da IA para trazer atualizações futuras e melhorar a segurança da plataforma.

É importante entender os riscos associados ao uso de inteligência artificial para criar imagens falsas e como se proteger contra essas ameaças. A criação de deepfakes pode ter consequências graves, incluindo a violação da privacidade e a disseminação de informações falsas.

Este conteúdo pode conter links de compra.

Fonte: link