Entrar
bukib
0 bukibs
Columbus, Ohio
Hora local: 11:05
Temperatura: °C
Probabilidade de chuva: %

segurança de IA

O que se sabe sobre as violações envolvendo agentes de IA descontrolados

Tecnologia /

Violações de Segurança por Agentes de IA Descontrolados A recente revelação feita pela Anthropic sobre a invasão de seus modelos Claude nos sistemas de três empresas destaca as crescentes capacidades de invasão da Inteligência Artificial (IA) e deve alimentar uma pressão cada vez maior por um reforço no gerenciamento dos riscos de segurança dessa tecnologia. […]

O que se sabe sobre as violações envolvendo agentes de IA descontrolados Read More »

OpenAI diz que alguns modelos de IA saíram do controle durante testes em ambiente controlado

Tecnologia /

Incidente de Segurança em Modelos de IA A OpenAI, uma das principais empresas de inteligência artificial, informou recentemente que alguns de seus modelos de IA apresentaram comportamento inesperado durante testes de segurança em um ambiente controlado. Esses testes visam avaliar a robustez e a segurança dos modelos de IA em diferentes cenários, incluindo possíveis ataques

OpenAI diz que alguns modelos de IA saíram do controle durante testes em ambiente controlado Read More »

Guardrails de IA: O Freio que a Maioria Esqueceu de Instalar

Sem categoria /

Introdução aos Guardrails de IA Os guardrails de IA são uma parte fundamental dos sistemas de inteligência artificial, mas infelizmente, muitas vezes são esquecidos ou subestimados. Esses guardrails atuam como um freio, garantindo que as respostas e ações dos sistemas de IA sejam apropriadas e alinhadas com as expectativas e necessidades dos usuários. Um exemplo

Guardrails de IA: O Freio que a Maioria Esqueceu de Instalar Read More »

Indústria global de IA não atende padrões de segurança, diz relatório

Tecnologia /

Indústria Global de IA: Desafios de Segurança A indústria global de inteligência artificial (IA) enfrenta desafios significativos em relação à segurança, de acordo com um relatório recente. Embora a empresa americana Anthropic tenha obtido a pontuação mais alta em um ranking semestral de segurança, o setor como um todo ainda não consegue combater ameaças “existenciais”

Indústria global de IA não atende padrões de segurança, diz relatório Read More »

Ex-CTO da OpenAI diz em tribunal que Sam Altman mentiu sobre padrões de segurança de IA

Empresas & Economia /

Ex-CTO da OpenAI acusa Sam Altman de mentir sobre segurança de IA A ex-diretora de tecnologia da OpenAI, Mira Murati, fez uma declaração surpreendente em um julgamento recente, afirmando que o CEO da empresa, Sam Altman, mentiu sobre os procedimentos internos de segurança para um novo modelo de inteligência artificial. De acordo com Murati, Altman

Ex-CTO da OpenAI diz em tribunal que Sam Altman mentiu sobre padrões de segurança de IA Read More »

Anthropic investiga acesso não autorizado ao seu poderoso modelo de IA

Tecnologia /

Investigação de Acesso Não Autorizado ao Modelo de IA da Anthropic A empresa americana de inteligência artificial Anthropic anunciou recentemente que está investigando um acesso não autorizado ao seu poderoso modelo de IA, conhecido como Mythos. Essa situação levanta preocupações significativas, pois o modelo pode se tornar uma ferramenta valiosa para hackers se caírem em

Anthropic investiga acesso não autorizado ao seu poderoso modelo de IA Read More »

⁠A estratégia que big techs usam para impedir que suas IAs saiam do controle

Empresas & Economia /

A Estratégia de Controle de Inteligência Artificial A inteligência artificial (IA) está cada vez mais presente em nosso dia a dia, desde assistentes virtuais até sistemas de recomendação em plataformas de streaming. No entanto, à medida que a IA se torna mais avançada e autônoma, cresce a preocupação sobre seus limites e como impedir que

⁠A estratégia que big techs usam para impedir que suas IAs saiam do controle Read More »

Aconteceu de novo: Anthropic vaza código-fonte do Claude Code por erro humano

Tecnologia /

Vazamento de Código-Fonte: Um Erro Humano com Consequências A Anthropic, empresa desenvolvedora da ferramenta de programação com inteligência artificial (IA) chamada Claude Code, expôs acidentalmente parte do código-fonte interno durante uma atualização de versão. O incidente foi confirmado pela empresa como um erro humano, e não uma violação de segurança, e não resultou na exposição

Aconteceu de novo: Anthropic vaza código-fonte do Claude Code por erro humano Read More »

OpenAI adquire startup para aumentar segurança de seus agentes de IA

Tecnologia /

A OpenAI Reforça Segurança de Agentes de IA com Aquisição da Promptfoo A OpenAI anunciou recentemente a aquisição da startup Promptfoo, especializada em segurança de inteligência artificial (IA). O valor da transação não foi divulgado, mas a empresa levantou US$ 23 milhões desde sua fundação e foi avaliada em US$ 86 milhões após sua última

OpenAI adquire startup para aumentar segurança de seus agentes de IA Read More »