A Anthropic anunciou a implementação de uma marca d’água em textos gerados pelo seu chatbot Claude, uma decisão que gerou intensos debates nas redes sociais sobre suas implicações. A medida visa atender ao Code of Practice on Transparency of AI-generated Content, parte da legislação de Inteligência Artificial da Europa, que exige que provedores de IA sinalizem conteúdos criados por suas tecnologias.
Segundo a empresa, a marca d’água será invisível para os humanos, sem comprometer a qualidade ou a legibilidade das respostas. No entanto, a identificação de que o conteúdo é sintético se manterá mesmo após pequenas alterações feitas pelo usuário. Essa iniciativa provocou uma divisão de opiniões, com usuários discutindo se a novidade será um avanço ou uma limitação na experiência de uso do chatbot.
Embora a adição de marcas d’água seja uma novidade para o Claude, outras empresas de IA já utilizam essa prática há anos, especialmente em imagens e vídeos. O Google, por exemplo, implementa o SynthID, um mecanismo de identificação discreto para diversos tipos de conteúdo. A Anthropic, no entanto, não divulgou detalhes técnicos sobre como funcionará a marca d’água em textos.
Com a ascensão de ferramentas de IA para a produção de texto, características recorrentes nos textos gerados por chatbots têm se tornado evidentes, como uso excessivo de conectores e listas. Isso facilita a identificação de conteúdos criados por inteligência artificial, especialmente em redes sociais como o LinkedIn.
Ainda não se sabe como a nova medida da Anthropic afetará a produção de conteúdos, mas é provável que desencoraje o uso irresponsável de textos gerados por IA. No entanto, a prática de se apresentar como autor de artigos inteiros criados por assistentes de IA é considerada antiética em muitos contextos.
Para se manter atualizado sobre as últimas notícias em inteligência artificial e tecnologia, acesse o TecMundo.