Dados de rotulagem
Uma investigação da revista TIME revelou que, para criar um sistema de segurança contra conteúdo tóxico (como abuso sexual, violência, racismo, sexismo, etc.), a OpenAI utilizou trabalhadores quenianos terceirizados que ganhavam menos de US$ 2 por hora para rotular esse tipo de conteúdo. Esses rótulos foram usados para treinar um modelo capaz de detectar esse conteúdo no futuro. Os trabalhadores terceirizados foram expostos a um conteúdo tão tóxico e perigoso que descreveram a experiência como "tortura". A parceira de terceirização da OpenAI era a Sama, uma empresa de dados de treinamento com sede em São Francisco, Califórnia.
Fuga da prisão
O ChatGPT tenta rejeitar mensagens que possam violar sua política de conteúdo. No entanto, alguns usuários conseguiram burlar o ChatGPT usando diversas técnicas de engenharia de mensagens para contornar essas restrições no início de dezembro de 2022 e enganaram o ChatGPT com sucesso para que ele fornecesse instruções sobre como criar um coquetel Molotov ou uma bomba nuclear, ou para gerar argumentos no estilo neonazista. Um repórter do Toronto Star teve sucesso variável em fazer o ChatGPT emitir declarações inflamatórias logo após o lançamento: o ChatGPT foi enganado para endossar a invasão russa da Ucrânia em 2022, mas mesmo quando solicitado a participar de um cenário fictício, o ChatGPT se recusou a gerar argumentos sobre por que o primeiro-ministro canadense Justin Trudeau era culpado de traição. (wiki)
Data da publicação: 18/02/2023