Veja também catnip.
OpenAI Bane Contas do ChatGPT Ligadas a Entidades do Governo Chinês e Outros Grupos
A OpenAI, empresa por trás do popular chatbot ChatGPT, anunciou recentemente a proibição de várias contas com suspeitas de ligações a entidades governamentais chinesas. Essa medida foi tomada após usuários solicitarem propostas para monitorar conversas nas redes sociais, o que viola a política de segurança nacional da startup.
De acordo com o relatório público sobre ameaças da OpenAI, algumas pessoas solicitaram ao chatbot que descrevesse ferramentas de “escuta” nas redes sociais e outros conceitos de monitoramento. Isso levanta preocupações de segurança sobre o possível uso indevido de IA generativa em meio à crescente concorrência entre os EUA e a China para moldar o desenvolvimento e as regras da tecnologia.
A OpenAI também baniu várias contas em chinês que usavam o ChatGPT para auxiliar em campanhas de phishing e malware. Além disso, a empresa identificou contas vinculadas a supostos grupos criminosos de língua russa que usavam o chatbot para ajudar a desenvolver determinados malwares.
- A OpenAI interrompeu e reportou mais de 40 redes desde que começou a reportar ameaças públicas em fevereiro do ano passado.
- Os modelos da empresa recusaram solicitações abertamente maliciosas.
- A OpenAI não encontrou nenhuma evidência de novas táticas ou de que seus modelos tenham fornecido aos agentes de ameaças novas capacidades ofensivas.
A OpenAI, que agora tem mais de 800 milhões de usuários semanais do ChatGPT, tornou-se a startup mais valiosa do mundo com uma avaliação de US$500 bilhões após concluir uma venda secundária de ações na semana passada. A empresa continua a trabalhar para garantir a segurança e a privacidade de seus usuários, e medidas como a proibição de contas suspeitas são essenciais para manter a confiança dos usuários.
Este conteúdo pode conter links de compra.
Fonte: link