O Lado Sombrio do Sora 2: Violência, Deepfakes e Stalkers

O aplicativo Sora, lançado recentemente com recursos do Sora 2, permite que os usuários gerem vídeos com inteligência artificial (IA) e os publiquem em um feed semelhante ao do TikTok. No entanto, relatos de conteúdos violentos, deepfakes de celebridades falecidas e uso indevido por stalkers revelam o lado sombrio do app.

Embora a OpenAI, empresa por trás do Sora, tenha destacado que o aplicativo integra recursos para bloquear conteúdos inseguros ou prejudiciais, vídeos que parecem ter driblado esses mecanismos de proteção já circulam na internet. Isso inclui conteúdos que mostram o físico teórico Stephen Hawking sendo violentado em diversas situações, bem como deepfakes de outras celebridades falecidas, como Robin Williams e Richard Nixon.

Além disso, o aplicativo está sendo utilizado por stalkers, como no caso da jornalista Taylor Lorenz, que relatou que um perseguidor psicótico está gerando vídeos de IA com sua imagem. Isso levanta preocupações sobre a falta de mecanismos eficazes de moderação e controle de conteúdo no aplicativo.

• Deepfakes de celebridades falecidas, como Stephen Hawking, Robin Williams e Richard Nixon, estão sendo gerados e compartilhados no aplicativo.
• O aplicativo está sendo utilizado por stalkers, como no caso da jornalista Taylor Lorenz, que relatou que um perseguidor psicótico está gerando vídeos de IA com sua imagem.
• A falta de mecanismos eficazes de moderação e controle de conteúdo no aplicativo é uma preocupação significativa.

Em resumo, o lado sombrio do Sora 2 é um reflexo da necessidade de maior controle e moderação de conteúdo nos aplicativos que utilizam inteligência artificial. A OpenAI precisa tomar medidas para garantir que seu aplicativo não seja utilizado para fins prejudiciais ou ilegais.

Este conteúdo pode conter links de compra.

Fonte: link