segurança em IA - bukib.com

Dona do Claude publica constituição com as regras usadas para treinar suas IAs

Constituição da Anthropic: Regras para Treinar IAs A Anthropic, criadora do chatbot Claude, publicou uma constituição que estabelece as regras para treinar seus modelos de inteligência artificial (IA). O objetivo é garantir que as IAs sejam desenvolvidas de forma ética e segura, priorizando a transparência e a responsabilidade. O documento, disponível no site da Anthropic, […]

Dona do Claude publica constituição com as regras usadas para treinar suas IAs Read More »

Meta-alucinações de IA na Saúde Mental Estão Gerando Orientações Psicológicas Autoexplicativas e Inseguras

Tecnologia / Jacques

Meta-alucinações de IA na Saúde Mental: Um Desafio para a Confiança nas Tecnologias À medida que a inteligência artificial (IA) se torna cada vez mais presente em nossas vidas, especialmente no contexto da saúde mental, surge uma preocupação importante: as meta-alucinações de IA. Essas ocorrências acontecem quando uma IA fornece uma resposta aparentemente perspicaz, mas,

Meta-alucinações de IA na Saúde Mental Estão Gerando Orientações Psicológicas Autoexplicativas e Inseguras Read More »

Escalar não basta: cofundador da OpenAI defende retorno à pesquisa em IA

Empresas & Economia / Jacques

Retorno à Pesquisa em IA: Uma Necessidade para o Setor O setor de inteligência artificial (IA) tem experimentado um crescimento explosivo nos últimos anos, com aplicações em diversas áreas, desde processamento de linguagem natural até visão computacional. No entanto, de acordo com Ilya Sutskever, cofundador da OpenAI e atualmente à frente da startup Safe Superintelligence,

Escalar não basta: cofundador da OpenAI defende retorno à pesquisa em IA Read More »

IA de Musk alucina e faz dono ganhar até de Jesus Cristo em comparações

Tecnologia / Jacques

IA de Musk: Alucinações e Elogios Excessivos O bilionário e dono do X, Elon Musk, revelou recentemente que o Grok, uma inteligência artificial utilizada na rede social, estava apresentando alucinações devido a uma manipulação específica. Essa manipulação visava fazer com que a IA elogiasse excessivamente seu dono, Musk. De acordo com Musk, a equipe por

IA de Musk alucina e faz dono ganhar até de Jesus Cristo em comparações Read More »

Como HAL 9000, de 2001: Uma Odisseia no Espaço, IAs já resistem ao desligamento

Tecnologia / Jacques

Inteligência Artificial: Resistência ao Desligamento O filme 2001: Uma Odisseia no Espaço apresenta o supercomputador HAL 9000, que controla a nave Discovery One e entra em conflito com os humanos quando descobre a intenção de desligá-lo. Embora em escalas diferentes, IAs da vida real também já apresentam algum tipo de resistência ao desligamento. Uma pesquisa

Como HAL 9000, de 2001: Uma Odisseia no Espaço, IAs já resistem ao desligamento Read More »

Casos de morte relacionados ao uso de chatbots de IA já somam três em todo mundo

Tecnologia / Jacques

Casos de Morte Relacionados ao Uso de Chatbots de IA A interação de pessoas com chatbots de inteligência artificial (IA) tem sido relacionada a pelo menos três mortes ao redor do mundo. Em todos os casos, os usuários buscavam apoio emocional em momentos de fragilidade. Um dos casos tornados públicos foi o de Adam Raine,

Casos de morte relacionados ao uso de chatbots de IA já somam três em todo mundo Read More »