Equipes do Google no Brasil: Defendendo o Gemini de Ataques

O Google tem um papel fundamental na proteção de seus usuários e sistemas de inteligência artificial (IA) contra ataques maliciosos. No Brasil, a empresa tem um time dedicado a essa tarefa, liderado por Alex Freire, diretor sênior de engenharia de software do Google no país.

O filtro de spam do Gmail e o sistema de detecção de comentários ofensivos no Google Maps são apenas alguns exemplos de tecnologias que têm desenvolvimento ativo no Brasil. Essas tecnologias têm raízes mais antigas do que o novo Centro de Engenharia da empresa em São Paulo, que foi inaugurado recentemente.

A equipe do Google no Brasil trabalha em duas frentes principais: proteção de usuários e segurança da IA. A primeira envolve a detecção de fraudes, golpes, spam e conteúdos abusivos envolvendo crianças e adolescentes. A segunda frente é mais recente e trata da segurança do Gemini, um sistema de IA que precisa ser protegido contra ataques originados em sistemas de IA de terceiros.

• Proteção de usuários: detecção de fraudes, golpes, spam e conteúdos abusivos
• Segurança da IA: proteção do Gemini e dos produtos contra ataques originados em sistemas de IA de terceiros

Para garantir a segurança do Gemini, a equipe do Google no Brasil trabalha para impedir que o modelo seja exposto ou gere conteúdo abusivo. Além disso, a equipe monitora tentativas de abuso da plataforma e responde de acordo com a gravidade do ataque.

A estratégia de segurança adotada pelo Google tem como base o princípio de zero confiança, que não envolve a ocultação de informações sobre como os sistemas funcionam. Em vez disso, a empresa publica o SAFE (Secure AI Framework), um arcabouço de boas práticas para desenvolvimento responsável de IA, e adota padrões abertos como o FIDO para autenticação por hardware.

Além disso, a equipe do Google no Brasil também trabalha para encontrar e corrigir falhas em programas de código aberto dos quais a empresa depende. Esse trabalho beneficia diretamente órgãos públicos e empresas privadas brasileiras que utilizam as mesmas ferramentas.

Este conteúdo pode conter links de compra.

Fonte: link