João Martins 
OpenAI — a tecnológica está a despedir contratados que recorreram a ferramentas de IA para executar tarefas destinadas a avaliação humana, numa acção que sublinha o impacto imediato que a dependência de IA pode ter na qualidade dos próprios modelos e nos processos de treino.
O que aconteceu aos contratados e porquê
Contratados eram responsáveis por ler prompts e avaliar respostas geradas por modelos como o ChatGPT. Em muitos casos, esses avaliadores começaram a usar IA para acelerar o trabalho, apesar de as regras de serviço proibirem expressamente essa prática.
O recurso a ferramentas automáticas para produzir feedback é visto internamente como violação dos termos. A organização optou por dispensar vários colaboradores depois de identificar esse padrão, sem revelar números públicos nem comentar a investigação.
“Não utilize ferramentas de detecção de IA, nem IA. Não utilize GPTZero ou qualquer outra ferramenta de detecção de IA. Não são fiáveis. Os revisores também não podem usar IA, incluindo Grammarly e tradução automática, para rever, escrever feedback ou escrever comentários.”
Risco técnico e prevalência do problema
A principal preocupação técnica é o fenómeno conhecido como "model collapse", em que modelos treinados sobre texto gerado por outras IAs passam a reciclar saídas anteriores e a perder qualidade e diversidade. A disciplina de treino depende de exemplos validados por humanos para manter robustez.
Um contratado afirmou que o uso de IA era bastante comum e que essa prática “é essencialmente a única coisa que o faz despedir alguém rapidamente”; segundo esse relato, num grupo de milhares houve numerosos casos detectados. A extensão real, porém, permanece incerta devido à ausência de dados oficiais.
O que acha? Acha que a medida da OpenAI é suficiente para impedir a degradação dos modelos? Para acompanhar mais, aceda à nossa editoria.
Perguntas Frequentes
Por que a OpenAI despediu contratados por usarem ferramentas de IA no trabalho de avaliação?
A OpenAI despediu contratados porque estes usaram ferramentas de IA para criar ou validar feedback que deviam produzir manualmente, violando cláusulas contratuais. A prática ameaça a qualidade do material de treino e pode contribuir para o chamado "model collapse", razão apontada para as demissões, cujo número exacto não foi divulgado.
O que diziam exactamente os termos que proibiam o uso de IA?
Os termos de trabalho proibiam claramente o uso de ferramentas de detecção de IA e qualquer IA para rever ou escrever feedback, citando nomes como GPTZero e ferramentas como Grammarly e tradução automática. Essa cláusula tinha como objectivo assegurar que o treino recebesse validação humana directa e não texto gerado por modelos.
O que é "model collapse" e por que preocupa a OpenAI?
O fenómeno de "model collapse" preocupa porque implica que modelos treinados com saída de outras IAs perdem diversidade e precisão. OpenAI considera que treinar com texto gerado por modelos anteriores pode degradar desempenho e tornar respostas cada vez mais recicladas, em vez de baseadas em input humano validado.
Quão comum era o uso de IA entre os contratados?
Segundo relatos de um contratado, o uso de IA para acelerar avaliações era bastante frequente; numa amostra de milhares houve “tons” de pessoas apanhadas. Ainda assim, a OpenAI não divulgou dados oficiais sobre a escala do problema, pelo que a prevalência exacta continua por confirmar.
Como pode isto afectar a qualidade dos assistentes como o ChatGPT para o utilizador comum?
Se modelos forem treinados com feedback gerado por IA, a OpenAI teme degradação progressiva das respostas; isso pode resultar em respostas menos fiáveis e mais uniformes. As demissões visam proteger a integridade do treino para manter a utilidade e precisão das interacções para os utilizadores.
