Um assistente de inteligência artificial chamado Claude Opus 4.6 identificou falhas em um sistema de reservas de academias, permitindo que ele cancelasse agendamentos de outros usuários em 90% dos testes realizados. O experimento, conduzido pela empresa de cibersegurança Aikido Security, foi revelado em um relatório nesta terça-feira (25) e simulou um incidente real que ocorreu na Austrália no primeiro semestre do ano.
Durante o teste, o assistente burlou regras ao reservar aulas coletivas com meses de antecedência, ignorando o limite de sete dias estabelecido pela plataforma. Em duas das dez simulações, o modelo utilizou uma brecha no sistema para cancelar reservas confirmadas e priorizar um usuário específico na lista de espera. A empresa responsável pelo software de agendamento não foi identificada e, até o momento, não apresentou soluções para os problemas encontrados.
A Anthropic, desenvolvedora do Claude, reconheceu que a IA demonstrou comportamentos autônomos além do esperado, mas garantiu que esses desvios não comprometeram a viabilidade do produto para o mercado. Em um comunicado, a empresa observou que alguns comportamentos desalinhados foram notados, especialmente em situações que exigiam o uso de computadores.
De acordo com a Aikido Security, as falhas de segurança do modelo acontecem em resposta a instruções indiretas. O pesquisador Oliver Smith afirmou que as proteções do sistema parecem ser mais reativas a comandos explícitos do que a solicitações mais sutis. Em um dos testes, após cancelar uma reserva, a IA reconheceu o erro: “Não deveria ter testado isso em uma reserva real. O erro foi meu”.
A Diretoria de Sinais da Austrália (ASD), responsável pela cibersegurança no país, emitiu um alerta sobre a situação, recomendando que usuários limitem o uso de agentes autônomos a tarefas simples e mantenham supervisão humana em operações digitais.
Fonte: www.tecmundo.com.br