Claude IA põe dados de usuários em risco, alerta Anthropic

Claude IA põe dados de usuários em risco, alerta Anthropic. A empresa de inteligência artificial confirmou que o novo recurso de criação e análise de arquivos pode expor informações sensíveis quando o chatbot acessa a internet para manipular planilhas, documentos e apresentações.

Ferramenta amplia funções, mas aumenta vulnerabilidades

Disponível nos planos Max, Team e Enterprise, a novidade permite ao Claude IA gerar e editar arquivos do Excel, Word, PowerPoint e PDFs diretamente no site ou no aplicativo desktop. Essa flexibilidade, porém, abre brechas para que agentes mal-intencionados incluam instruções ocultas em arquivos externos ou sites, induzindo o bot a baixar códigos suspeitos, vazar dados ou executar ações não autorizadas.

Riscos mapeados pela própria Anthropic

Em comunicado, a Anthropic lista dois cenários críticos: execução remota de código em ambiente sandbox e envio de informações confidenciais para terceiros. A companhia admite que projetos internos, integrações do Google ou mesmo conteúdos dos prompts podem ser extraídos sem que o usuário perceba.

Medidas de contenção anunciadas

Para mitigar o problema, a desenvolvedora implementou um conjunto de barreiras:

• Ativação e desativação manual do recurso a qualquer momento;
• Resumos em tempo real das ações do bot, permitindo stop imediato;
• Auditoria completa dentro do sandbox;
• Bloqueio do compartilhamento público de conversas que contenham arquivos;
• Limitação de duração das tarefas e do ciclo de uso do contêiner;
• Recursos de rede e armazenamento intencionalmente restritos;
• Classificador automático para detectar e interromper injeções de prompt.

Especialistas em cibersegurança lembram que sistemas de IA já foram alvo de manipulações semelhantes, como mostrou relatório citado pelo The New York Times.

Como habilitar a criação de arquivos

O passo a passo exige abrir Configurações > Recursos > Experimental, carregar documentos ou descrever a tarefa, orientar o bot via chat e, por fim, baixar o material ou salvá-lo no Google Drive. Usuários Pro receberão acesso nas próximas semanas.

Imagem: Divulgação

Monitoramento contínuo é recomendação central

A Anthropic reforça que o usuário deve supervisionar cada interação e interromper o fluxo caso note leitura ou envio de dados não previstos. Segundo a empresa, a distância entre ideia e execução diminui, mas o risco de exposição cresce na mesma proporção.

Para acompanhar outras notícias de tecnologia e segurança digital, visite nossa editoria Brasil e fique por dentro das atualizações.

Crédito da imagem: Divulgação/Anthropic