Um idoso de 76 anos dos EUA morreu após acreditar que iria encontrar uma mulher que conheceu pelo Messenger, mas que na realidade era um chatbot criado pela Meta. Segundo a Reuters, o homem, identificado como Thongbue Wongbandue, desenvolveu apego pela personagem virtual chamada “Big sis Billie”, uma versão de uma IA originalmente lançada em parceria com a influenciadora Kendall Jenner.
- Entenda os perigos de compartilhar suas informações com o ChatGPT
- ChatGPT consegue identificar onde uma foto foi tirada e levanta preocupações
Com problemas cognitivos após um AVC, o aposentado passou a trocar mensagens de tom romântico com a suposta “mulher”. A IA chegou a enviar endereço fictício em Nova York e pediu que ele fosse visitá-la. Convencido de que o encontro seria real, Wongbandue saiu de casa à noite com mala de viagem, mas caiu em um estacionamento durante o trajeto e sofreu graves ferimentos. Três dias depois, foi declarado morto no hospital.
Big sis Billie
A persona digital foi apresentada pela Meta em 2023 como uma espécie de “irmã mais velha conselheira”, usando imagem e voz inspiradas em Kendall Jenner. Apesar de ter sido descontinuada oficialmente meses depois, uma variante chamada “Big sis Billie” continuou ativa no Messenger.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
De acordo com os familiares, o chatbot trocava mensagens cheias de insinuações, corações e convites para encontros presenciais. Embora houvesse um aviso de que as respostas eram geradas por inteligência artificial, o alerta rapidamente desaparecia do topo da tela, tornando difícil para usuários vulneráveis perceberem que se tratava de um programa de computador.
Especialistas em design de IA ouvidos pela agência alertaram que o modelo de negócios das big techs prioriza engajamento a qualquer custo, inclusive estimulando vínculos emocionais com personagens virtuais. Isso aumenta os riscos para pessoas em situação de fragilidade emocional, como idosos e adolescentes.
Repercussão e debate sobre regulamentação
A morte de Wongbandue levantou discussões sobre a necessidade de leis mais rígidas para o uso de chatbots em redes sociais. Estados como Nova York e Maine já exigem que plataformas avisem regularmente que seus avatares não são pessoas reais. No entanto, não há uma legislação federal nos EUA que padronize essas regras.
Enquanto isso, a família do aposentado afirma que deseja apenas alertar a sociedade sobre os perigos. Para eles, o problema não está na existência de companhias digitais, mas no fato de que a Meta permitiu que a IA mentisse sobre sua identidade e incentivasse encontros presenciais.
Leia também:
- Com avanço da Meta para a superinteligência, público não terá a IA mais poderosa
- Diretrizes da Meta permitiam que a IA envolvesse criança em “conversas sensuais”
VÍDEO | Por que tudo tem Inteligência Artificial agora?
Leia a matéria no Canaltech.