injeção de prompt

Com prompt invisível, professor desmascara 32 alunos usando IA em prova

Um Caso de Desmascaramento de Alunos que Usaram IA em Prova Um professor de história da Alcorn State University, nos Estados Unidos, encontrou uma forma criativa de identificar alunos que usaram inteligência artificial sem revisar o conteúdo gerado durante uma prova. Jason Gibson inseriu um comando oculto no enunciado da avaliação e conseguiu identificar 32 […]

Com prompt invisível, professor desmascara 32 alunos usando IA em prova Read More »

Como Word pode revelar código usado por professor que descobriu IA em prova

Tecnologia / Jacques

Detectando Truques de Injeção de Prompt com o Word Os editores de texto, como o Word, desempenham um papel fundamental na detecção de truques utilizados por estudantes para copiar respostas de ferramentas de inteligência artificial. Um professor de história americano recentemente utilizou uma técnica inovadora para expor esses estudantes, inserindo comandos invisíveis em uma avaliação

Como Word pode revelar código usado por professor que descobriu IA em prova Read More »

Injeção de prompt: como ‘drible’ em IA fez advogadas serem multadas?

Tecnologia / Jacques

Injeção de Prompt: Uma Técnica de Manipulação em Sistemas de IA A injeção de prompt é uma técnica utilizada para influenciar o comportamento de sistemas de inteligência artificial (IA) que processam linguagem natural. Essa técnica envolve a inserção de palavras ou frases específicas em um prompt, com o objetivo de manipular a resposta do sistema

Injeção de prompt: como ‘drible’ em IA fez advogadas serem multadas? Read More »

Injeção de prompt: entenda técnica usada em caso que chocou tribunal

Tecnologia / Jacques

Injeção de Prompt: Entenda a Técnica usada em Caso que Chocou Tribunal A injeção de prompt é uma técnica usada para manipular o comportamento de sistemas de inteligência artificial (IA). Ela funciona como uma tentativa de enganar a IA por meio de instruções escondidas dentro de textos, arquivos ou mensagens. Essa técnica foi recentemente usada

Injeção de prompt: entenda técnica usada em caso que chocou tribunal Read More »

Brasil não é para amadores: advogadas sabotam processo com código secreto de IA

Tecnologia / Jacques

Advogadas Tentam Manipular Inteligência Artificial em Tribunal Dois advogadas foram multadas em R$ 84,2 mil por tentarem manipular a inteligência artificial do Tribunal Regional do Trabalho da 8ª Região (TRT-8) em Parauapebas (PA). Elas inseriram comandos ocultos em uma petição inicial para induzir a IA do tribunal a fazer uma análise superficial do documento e

Brasil não é para amadores: advogadas sabotam processo com código secreto de IA Read More »

O que é injeção de prompt?

Tecnologia / Jacques

O que é Injeção de Prompt? A injeção de prompt é uma técnica de ataque que explora vulnerabilidades em sistemas de Inteligência Artificial generativa, especialmente em modelos de linguagem (LLMs). O objetivo é manipular as instruções enviadas à IA para que ela ignore suas regras originais e execute comandos maliciosos como se fossem legítimos. Essa

O que é injeção de prompt? Read More »

Golpistas manipulam IAs para roubar suas informações; saiba se proteger

Tecnologia / Jacques

Golpistas manipulam IAs para roubar suas informações; saiba se proteger A inteligência artificial (IA) está cada vez mais presente em nossas vidas, seja em chats, navegadores ou ferramentas corporativas. No entanto, à medida que esses sistemas se popularizam, também se tornam alvo de novas ameaças digitais. Uma delas é a chamada Injeção de Prompt, um

Golpistas manipulam IAs para roubar suas informações; saiba se proteger Read More »

Ataque HashJack faz navegadores de IA roubarem dados com truque simples

Tecnologia / Jacques

Ataque HashJack: Um Novo Tipo de Ameaça à Segurança Online Uma recente pesquisa da empresa de cibersegurança Cato Networks revelou um novo tipo de ataque virtual conhecido como HashJack. Este ataque esconde prompts maliciosos após o símbolo “#” em endereços de sites legítimos, permitindo que cibercriminosos façam com que navegadores de IA executem códigos maliciosos

Ataque HashJack faz navegadores de IA roubarem dados com truque simples Read More »

Nova falha no ChatGPT permite roubo de dados e histórico de conversas

Tecnologia / Jacques

Nova Falha no ChatGPT Permite Roubo de Dados e Histórico de Conversas A popularidade do ChatGPT tem atraído a atenção de cibercriminosos, que descobriram uma falha de segurança na plataforma da OpenAI que permite o roubo de dados dos usuários e até mesmo o controle do chatbot. De acordo com um relatório da Tenable Research,

Nova falha no ChatGPT permite roubo de dados e histórico de conversas Read More »

Atlas: especialistas alertam para riscos de segurança no navegador de IA da OpenAI

Empresas & Economia / Jacques

Atlas: Especialistas Alertam para Riscos de Segurança no Navegador de IA da OpenAI O lançamento do ChatGPT Atlas, o novo navegador de IA da OpenAI, trouxe consigo uma série de preocupações sobre segurança e privacidade. Especialistas em cibersegurança alertam que o navegador pode ser vulnerável a ataques maliciosos que poderiam transformar assistentes de IA contra

Atlas: especialistas alertam para riscos de segurança no navegador de IA da OpenAI Read More »