Google paga por bugs em IA e oferece até R$ 170 mil

Google paga por bugs em IA e oferece até R$ 170 mil ao lançar o AI Vulnerability Reward Program (AI VRP), iniciativa que amplia sua tradicional caça a vulnerabilidades e passa a remunerar especialistas que descobrirem falhas de segurança em sistemas de inteligência artificial presentes na Busca, no Gemini e no Workspace.

Google paga por bugs em IA e oferece até R$ 170 mil

O novo programa foca exclusivamente em problemas capazes de comprometer privacidade, integridade e proteção dos usuários, deixando de lado questões de conteúdo, como discurso de ódio ou plágio gerado por modelos. Ao todo são sete categorias, sendo a mais grave a rogue actions, quando um invasor altera dados ou configurações de uma conta sem autorização.

Também entram na lista sensitive data exfiltration (roubo de dados sigilosos), model theft (apropriação de parâmetros de modelos proprietários) e context manipulation, além de ataques de phishing, acesso indevido a recursos pagos e negação de serviço entre contas.

Serviços de maior visibilidade, como a Busca do Google, aplicativos Gemini (web, Android e iOS) e ferramentas principais do Workspace — Gmail, Drive, Meet e Docs — foram classificados como produtos topo de linha. Uma falha crítica nesses ambientes rende prêmio-base de US$ 20 mil (cerca de R$ 113 mil), valor que pode subir a US$ 30 mil (aproximadamente R$ 170 mil) conforme a originalidade da descoberta e a qualidade do relatório enviado.

Já aplicativos de menor alcance, como NotebookLM ou Jules, pagam recompensas menores, às vezes limitadas a créditos de uso. Segundo o Google, desde a inclusão de falhas de IA em seus programas, em 2023, mais de US$ 430 mil (R$ 2,4 milhões) já foram distribuídos a pesquisadores.

Exemplos práticos elucidam o impacto potencial dessas vulnerabilidades: um comando oculto capaz de destrancar portas por meio de um Google Home ou um convite adulterado no Calendar que aciona automações domésticas. Situações dessa natureza demonstram como simples manipulações de prompt podem se converter em riscos físicos e digitais significativos.

Imagem: Tero Vesalainen

Além do AI VRP, a empresa apresentou o CodeMender, agente de IA que sugere correções de segurança para projetos de código aberto. De acordo com comunicado oficial publicado no blog de segurança do Google, a ferramenta já contribuiu com 72 patches aprovados por revisores humanos.

Em paralelo, o Drive ganhou um modelo de IA capaz de identificar sinais de ransomware em tempo real, interromper a sincronização e criar uma “bolha” de proteção. Dados da Mandiant, subsidiária da companhia, apontam que ataques desse tipo representam mais de 20% dos incidentes globais de cibersegurança, com perdas médias superiores a US$ 5 milhões.

Quer acompanhar outras iniciativas que impactam milhões de usuários? Visite a editoria Brasil para continuar informado e não perder as próximas atualizações.

Crédito da imagem: Tero Vesalainen/Shutterstock