OpenAI Lança Versão do ChatGPT Especialista em Segurança

A equipe de segurança da OpenAI apresentou recentemente o GPT-Red, um modelo de IA projetado para realizar práticas de red-teaming, um processo no qual uma equipe interna simula ataques hackers para testar os mecanismos de defesa de uma plataforma. O objetivo do GPT-Red é dar suporte à equipe que faz os testes de segurança e melhorar a segurança dos sistemas.

O GPT-Red foi treinado para combater os ataques de injeção de prompt, que ocorrem quando um comando possui instruções escondidas que levam a IA a fazer algo indevido. Além disso, o modelo foi refinado para funcionar de forma automatizada, identificando vulnerabilidades e consertando-as antes mesmo de serem distribuídas.

• O GPT-Red foi treinado por aprendizado de reforço, permitindo que ele aprenda e melhore continuamente.
• O modelo é capaz de identificar e corrigir vulnerabilidades de forma eficiente, melhorando a segurança dos sistemas.
• O GPT-Red não é uma ferramenta para ser usada pelo público em geral, mas sim uma ferramenta interna para testes de segurança.

De acordo com a OpenAI, o red-teaming feito por humanos é uma parte essencial, mas tem limites de escalabilidade. A IA permite desenvolver ameaças em ritmo e volume muito maior, tornando necessário o uso da tecnologia para resolver o problema na mesma medida.

O GPT-Red é um exemplo de como a tecnologia pode ser usada para melhorar a segurança dos sistemas, e não é uma ferramenta para ser usada com fins mal-intencionados. A OpenAI está trabalhando para garantir que a tecnologia seja usada de forma responsável e segura.

Este conteúdo pode conter links de compra.

Fonte: link