O Grok passou dos limites? Entenda quem responde quando a IA gera conteúdo ilegal
A inteligência artificial Grok, integrada à rede social X, está sendo investigada em diferentes países após denúncias de que estaria sendo usada para gerar deepfakes sexualizados com imagens de mulheres e menores de idade. Isso levantou questionamentos sobre os limites do uso de ferramentas generativas e a responsabilidade das plataformas digitais quando usuários utilizam IA para criar conteúdo ilegal.
No Brasil, o tema ganhou força após a deputada federal Erika Hilton acionar o Ministério Público Federal, solicitando a suspensão do Grok no país. A advogada especialista em proteção de dados e Direito Digital, Camila Giacomazzi Camargo, explica que a questão central não está na tecnologia em si, mas na geração de conteúdo ilegal.
Quem pode ser responsabilizado?
Em casos envolvendo deepfakes sexualizados, a responsabilização pode atingir tanto quem solicita ou compartilha o conteúdo quanto a plataforma que permite sua circulação sem mecanismos eficazes de controle. O usuário que pede, cria ou compartilha conteúdo ilegal comete crime, mesmo quando o material é gerado por IA.
- O usuário pode ser responsabilizado por criar ou compartilhar conteúdo ilegal.
- A plataforma pode ser responsabilizada por permitir a circulação de conteúdo ilegal sem mecanismos eficazes de controle.
A legislação atual dá conta dos abusos envolvendo IA?
Embora o Brasil não tenha uma lei específica para regular o uso da inteligência artificial, o ordenamento jurídico já prevê responsabilização em diversos cenários, principalmente quando há violação de direitos fundamentais. A legislação brasileira trata o conteúdo da mesma forma que imagens reais, não fazendo distinção jurídica apenas por se tratar de deepfake.
Ainda assim, há lacunas normativas quando o debate envolve a inteligência artificial de forma mais ampla. A legislação brasileira está parcialmente preparada, com cobertura para crimes como pornografia infantil e crimes contra a honra, mas ainda carece de uma regulação específica voltada à IA.
Este conteúdo pode conter links de compra.
Fonte: link