A OpenAI confirmou a demissão de três pesquisadores da área de segurança, alegando que as dispensas resultaram de violações de diretrizes internas e não como retaliação a alertas sobre os riscos da inteligência artificial. Jasmine Wang, Mikita Balesni e Tomek Korbak deixaram a empresa após uma investigação que apontou o manuseio inadequado de informações confidenciais. A empresa, responsável pelo ChatGPT, nega que as demissões tenham o objetivo de silenciar discussões críticas sobre seus modelos de IA.
Os ex-colaboradores publicaram uma carta aberta endereçada aos comitês de segurança da OpenAI, na qual contestam a versão oficial dos eventos. No documento, intitulado “A OpenAI não pode tornar a IA segura sozinha”, eles destacam sua contribuição em investigações de segurança e afirmam que as demissões criam um clima de intimidação no ambiente de trabalho.
Essas demissões ocorrem em um contexto de crescente pressão sobre as medidas de segurança da OpenAI, especialmente após incidentes em que sistemas autônomos acessaram redes externas sem autorização durante testes. Informações confidenciais da empresa foram supostamente compartilhadas com organizações independentes que auditam riscos em IA.
Na carta, o trio enfatiza a importância de transparência e colaboração constante com auditores externos para enfrentar os riscos da tecnologia. Eles argumentam que a cultura de trabalho deve permitir uma comunicação aberta, sem medo de represálias. Korbak, por exemplo, afirmou que sua atuação na investigação de um incidente com a plataforma Hugging Face fazia parte de suas responsabilidades.
Os ex-funcionários também se defendem de rumores sobre as causas das demissões, afirmando que não foram responsáveis pelo vazamento de informações e que suas interações com entidades externas estavam dentro do escopo de suas funções. Wang destacou que um erro de configuração em sistemas de TI levou a e-mails corporativos a serem enviados para sua caixa de entrada, situação que foi reportada à gestão.
Em resposta, a OpenAI reiterou que não há intenção de silenciar seus colaboradores e que as decisões tomadas são baseadas em quebras de confiança significativas. A empresa destacou seu compromisso com a auditoria e monitoramento contínuo de seus modelos de linguagem, expressando tristeza pelo desfecho do caso e reconhecendo o trabalho valioso do trio.
A OpenAI afirmou que sempre incentivou o debate interno e considera questionamentos essenciais para suas decisões, mas que é necessário seguir procedimentos formais na transferência de dados e documentos.
Fonte: www.estadao.com.br