Implicações do ChatGPT

em segurança cibernética

A Check Point Research e outros observaram que o ChatGPT era capaz de escreverphishinge-mails emalware, especialmente quando combinado comOpenAI Codex.O CEO da OpenAI escreveu que o avanço do software poderia representar “(por exemplo) um enorme risco de segurança cibernética” e também continuou a prever “poderíamos chegar a AGI real (inteligência geral artificial) na próxima década, então temos que levar o risco disso muito a sério”.Altman argumentou que, embora o ChatGPT “obviamente não seja próximo do AGI”, deve-se “confiar noexponencial.Plana olhando para trás,vertical olhando para frente.”

Na academia

O ChatGPT pode escrever seções de introdução e resumo de artigos científicos, o que levanta questões éticas.Vários artigos já listaram o ChatGPT como coautor.

EmO Atlanticorevista,Stephen Marcheobservou que seu efeito na academia e especialmenteensaios de aplicaçãoainda está para ser compreendido.O professor e autor do ensino médio da Califórnia, Daniel Herman, escreveu que o ChatGPT daria início ao “fim do inglês do ensino médio”.NoNaturezajornal, Chris Stokel-Walker apontou que os professores devem se preocupar com os alunos que usam o ChatGPT para terceirizar sua escrita, mas que os provedores de educação se adaptarão para aprimorar o pensamento ou o raciocínio crítico.Emma Bowman comNPRescreveu sobre o perigo de os alunos plagiarem por meio de uma ferramenta de IA que pode produzir um texto tendencioso ou sem sentido com um tom autoritário: “Ainda há muitos casos em que você faz uma pergunta e isso lhe dará uma resposta impressionante que está completamente errada”.

Joana Stern comJornal de Wall Streetdescreveu a trapaça no inglês do ensino médio americano com a ferramenta, enviando uma redação gerada.Professor Darren Hick deUniversidade Furmandescreveu perceber o “estilo” do ChatGPT em um artigo enviado por um aluno.Um detector GPT online afirmou que o papel tinha 99,9% de probabilidade de ser gerado por computador, mas Hick não tinha nenhuma prova concreta.No entanto, o aluno em questão confessou usar o GPT quando confrontado e, como consequência, foi reprovado no curso.Hick sugeriu uma política de fazer um exame oral individual ad hoc sobre o tópico do artigo se um aluno for fortemente suspeito de enviar um artigo gerado por IA.Edward Tian, ​​um estudante sênior de graduação daUniversidade de Princeton, criou um programa chamado “GPTZero”, que determina quanto de um texto é gerado por IA, podendo ser usado para detectar se um ensaio é escrito por humanos para combaterplágio acadêmico.

A partir de 4 de janeiro de 2023, o Departamento de Educação da cidade de Nova York restringiu o acesso ao ChatGPT da Internet e dos dispositivos de escolas públicas.

Em um teste cego, o ChatGPT foi considerado aprovado nos exames de pós-graduação noUniversidade de Minnesotano nível de aluno C+ e noEscola Wharton da Universidade da Pensilvâniacom grau B a B.(Wikipédia)

Da próxima vez falaremos sobre as preocupações éticas do ChatGPT.