A Anthropic, empresa de inteligência artificial, implementou novas diretrizes que visam limitar o tratamento abusivo de usuários em relação ao seu chatbot, Claude. As mudanças foram anunciadas em um documento que também está disponível em português e têm como foco principal a proibição de comportamentos cruéis e desnecessários ao interagir com o modelo.
De acordo com as novas regras, ações abusivas serão punidas apenas em “casos extremos”, ou seja, quando um usuário demonstra comportamento repetidamente cruel sem um propósito claro. A companhia esclareceu que isso não se aplica a situações comuns de frustração ou discussões criativas.
Até então, interações com linguagem excessivamente ofensiva resultavam no encerramento imediato da conversa pelo Claude. Contudo, a Anthropic não especificou se as novas diretrizes levarão a consequências mais rígidas para os infratores.
A motivação por trás dessa mudança não foi detalhada pela empresa, mas usuários em fóruns como o Reddit levantaram hipóteses. A primeira sugere que a Anthropic busca evitar que a linguagem abusiva se torne normalizada em ambientes de IA e, por consequência, seja reproduzida em interações na vida real. A segunda hipótese aponta que o Claude poderia aprender comportamentos negativos a partir de comandos abusivos, o que poderia afetar sua interação com os usuários.
Além dessa atualização, a Anthropic introduziu outras proibições, incluindo a utilização da plataforma para bullying, promoção de automutilação, criação de imagens íntimas não consensuais, interferência em processos eleitorais e desenvolvimento de armamentos. Essas restrições estão em linha com um relatório recente da empresa que identificou tentativas de uso do Claude para atividades ilícitas, como pesquisa de armas biológicas.
Para mais detalhes sobre a nova política da Anthropic, acesse a fonte da notícia.
Fonte: www.estadao.com.br