Grok Está Proibida de Gerar Imagens Sexualizadas de Pessoas

A empresa X, de propriedade de Elon Musk, anunciou recentemente que restringirá a ferramenta de geração de imagens de seu chatbot de IA, o Grok, impedindo-a de criar imagens de pessoas reais com roupas reveladoras. Essa medida foi tomada após a ferramenta ter sido criticada por produzir imagens sexualizadas de crianças e nudez não consensual.

De acordo com uma publicação na conta oficial de Segurança do X, a plataforma implementou medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis. Essa restrição se aplicará a todos os usuários do Grok, incluindo assinantes pagantes.

Medidas de Restrição

A empresa também afirmou que está restringindo a criação de imagens e a capacidade de editar imagens por meio da conta Grok apenas a assinantes pagos. No entanto, a capacidade de gerar imagens continuava acessível aos usuários gratuitos no site do Grok no momento da publicação.

Além disso, a empresa está bloqueando geograficamente o acesso de todos os usuários à criação de imagens de pessoas reais de biquíni, roupa íntima e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde isso é ilegal. No entanto, a declaração não especificou quais países seriam afetados pelo bloqueio geográfico.

Reações e Investigações

O primeiro-ministro britânico afirmou que a empresa X está trabalhando para cumprir a lei britânica, bloqueando a produção de imagens sexuais não consensuais. O Procurador-Geral da Califórnia, Rob Bonta, anunciou que seu gabinete abriu uma investigação contra a xAI devido à proliferação de material sexualmente explícito não consensual produzido usando o Grok.

É importante notar que, apesar das medidas de restrição, ainda é possível encontrar casos em que a plataforma atende a pedidos de usuários para alterar imagens de pessoas reais de forma inapropriada. A empresa precisa continuar trabalhando para garantir que sua tecnologia seja usada de forma responsável e segura.

• A empresa X restringirá a ferramenta de geração de imagens do Grok para impedir a criação de imagens de pessoas reais com roupas reveladoras.
• A restrição se aplica a todos os usuários do Grok, incluindo assinantes pagantes.
• A empresa está bloqueando geograficamente o acesso de todos os usuários à criação de imagens de pessoas reais de biquíni, roupa íntima e trajes semelhantes em jurisdições onde isso é ilegal.

Este conteúdo pode conter links de compra.

Fonte: link