injeção de prompt

Injeção de prompt: como ‘drible’ em IA fez advogadas serem multadas?

Injeção de Prompt: Uma Técnica de Manipulação em Sistemas de IA A injeção de prompt é uma técnica utilizada para influenciar o comportamento de sistemas de inteligência artificial (IA) que processam linguagem natural. Essa técnica envolve a inserção de palavras ou frases específicas em um prompt, com o objetivo de manipular a resposta do sistema […]

Injeção de prompt: como ‘drible’ em IA fez advogadas serem multadas? Read More »

Injeção de prompt: entenda técnica usada em caso que chocou tribunal

Tecnologia / Jacques

Injeção de Prompt: Entenda a Técnica usada em Caso que Chocou Tribunal A injeção de prompt é uma técnica usada para manipular o comportamento de sistemas de inteligência artificial (IA). Ela funciona como uma tentativa de enganar a IA por meio de instruções escondidas dentro de textos, arquivos ou mensagens. Essa técnica foi recentemente usada

Injeção de prompt: entenda técnica usada em caso que chocou tribunal Read More »

Brasil não é para amadores: advogadas sabotam processo com código secreto de IA

Tecnologia / Jacques

Advogadas Tentam Manipular Inteligência Artificial em Tribunal Dois advogadas foram multadas em R$ 84,2 mil por tentarem manipular a inteligência artificial do Tribunal Regional do Trabalho da 8ª Região (TRT-8) em Parauapebas (PA). Elas inseriram comandos ocultos em uma petição inicial para induzir a IA do tribunal a fazer uma análise superficial do documento e

Brasil não é para amadores: advogadas sabotam processo com código secreto de IA Read More »

O que é injeção de prompt?

Tecnologia / Jacques

O que é Injeção de Prompt? A injeção de prompt é uma técnica de ataque que explora vulnerabilidades em sistemas de Inteligência Artificial generativa, especialmente em modelos de linguagem (LLMs). O objetivo é manipular as instruções enviadas à IA para que ela ignore suas regras originais e execute comandos maliciosos como se fossem legítimos. Essa

O que é injeção de prompt? Read More »

Golpistas manipulam IAs para roubar suas informações; saiba se proteger

Tecnologia / Jacques

Golpistas manipulam IAs para roubar suas informações; saiba se proteger A inteligência artificial (IA) está cada vez mais presente em nossas vidas, seja em chats, navegadores ou ferramentas corporativas. No entanto, à medida que esses sistemas se popularizam, também se tornam alvo de novas ameaças digitais. Uma delas é a chamada Injeção de Prompt, um

Golpistas manipulam IAs para roubar suas informações; saiba se proteger Read More »

Ataque HashJack faz navegadores de IA roubarem dados com truque simples

Tecnologia / Jacques

Ataque HashJack: Um Novo Tipo de Ameaça à Segurança Online Uma recente pesquisa da empresa de cibersegurança Cato Networks revelou um novo tipo de ataque virtual conhecido como HashJack. Este ataque esconde prompts maliciosos após o símbolo “#” em endereços de sites legítimos, permitindo que cibercriminosos façam com que navegadores de IA executem códigos maliciosos

Ataque HashJack faz navegadores de IA roubarem dados com truque simples Read More »

Nova falha no ChatGPT permite roubo de dados e histórico de conversas

Tecnologia / Jacques

Nova Falha no ChatGPT Permite Roubo de Dados e Histórico de Conversas A popularidade do ChatGPT tem atraído a atenção de cibercriminosos, que descobriram uma falha de segurança na plataforma da OpenAI que permite o roubo de dados dos usuários e até mesmo o controle do chatbot. De acordo com um relatório da Tenable Research,

Nova falha no ChatGPT permite roubo de dados e histórico de conversas Read More »

Atlas: especialistas alertam para riscos de segurança no navegador de IA da OpenAI

Empresas & Economia / Jacques

Atlas: Especialistas Alertam para Riscos de Segurança no Navegador de IA da OpenAI O lançamento do ChatGPT Atlas, o novo navegador de IA da OpenAI, trouxe consigo uma série de preocupações sobre segurança e privacidade. Especialistas em cibersegurança alertam que o navegador pode ser vulnerável a ataques maliciosos que poderiam transformar assistentes de IA contra

Atlas: especialistas alertam para riscos de segurança no navegador de IA da OpenAI Read More »