OpenAI demite três pesquisadores de segurança, que contestam o motivo

A OpenAI demitiu três pesquisadores de segurança, Jasmine Wang, Tomek Korbak e Mikita Balesni, e a empresa e os ex-funcionários dão versões opostas sobre o motivo, segundo o TechCrunch em 8 de outubro.

A versão da OpenAI

A empresa afirma que eles violaram regras sobre o acesso e o tratamento de informações sensíveis da empresa. Um memorando interno diz que as demissões “não foram por levantar preocupações de segurança”. A reportagem registra a acusação de que eles teriam compartilhado informações confidenciais com uma organização externa de segurança em IA.

A versão dos pesquisadores

Numa carta aberta dirigida ao Comitê de Segurança, ao Grupo Consultivo de Segurança e ao Conselho Consultivo da Missão da OpenAI, os três negam ter tratado informações de forma indevida. Eles dizem que não tiveram envolvimento no vazamento, para o site The Information, sobre arquiteturas que podem tornar o raciocínio dos modelos mais difícil de monitorar. A carta afirma que as demissões estão “esfriando a cultura aberta” que a OpenAI valorizava.

Por que isso importa

O episódio mostra como é difícil, vista de fora, saber o que de fato houve: são alegações de lados opostos e não há investigação independente. Fica a discussão sobre como empresas que desenvolvem IA tratam funcionários que falam sobre riscos.