Gotcha GPT: professor do Departamento de Química cria ferramenta de IA para “fiscalizar” uso ético do ChatGPT
Instrumento auxilia na busca pela integridade na escrita acadêmica
O ChatGpt e outras plataformas de inteligência Artificial já são uma realidade vivenciada pelos profissionais da educação no Brasil e em todo mundo. Diante deste cenário e para romper o desafio da cópia ou do plágio, o professor do Departamento de Química do Centro Técnico Científico da PUC-Rio, André Pimentel, desenvolveu uma ferramenta que busca garantir a integridade na escrita acadêmica: o Gotcha GPT. Com recursos de IA, ele discrimina manuscritos gerados por máquinas e humanos, em inglês e português, usando modelos de classificação.
“O programa foi desenvolvido através de uma demanda de editores da American Chemical Society, que estão enfrentando dificuldades em fazer uma revisão por pares quando recebem artigos de origem duvidosa. Os editores não podem usar plataformas on line de detecção de textos gerados por IA, pois é regra não carregar os documentos para não quebrar o código de ética das revistas científicas, não violando a confidencialidade, os direitos de propriedade dos autores e os direitos de privacidade dos dados dos autores. O principal objetivo é mitigar o uso não ético da IA em ambiente acadêmico”, explica André Pimentel, professor do CTC/PUC-Rio.
Codificada no Google Colab e desenvolvida no Microsoft Windows usando o Python versão 3.10, a estrutura da ferramenta é versátil e se utiliza de bibliotecas de aprendizado de máquina Scikit-learn para fornecer a classificação do texto e a probabilidade de acerto para garantir confiança ao usuário. Os bancos de dados foram criados a partir de textos científicos em inglês e em português de revistas da American Chemical Society e da Sociedade Brasileira de Química.
“É importante observar que executar o notebook com o Google Colab não viola a confidencialidade e os direitos de propriedade do autor. Além disso, se o manuscrito contiver informações de identificação pessoal, esta tarefa não viola os direitos de privacidade de dados”, afirma o professor.
Aberto e gratuito, o Gotcha GPT está disponível sob a Licença MIT na plataforma do Github do autor (https://github.com/andresilvapimentel/Gotcha-GPT). A documentação completa sobre como executar seu protocolo e um tutorial encontra-se também no Github e um artigo acaba de ser publicado no Journal of Chemical Information and Modeling https://pubs.acs.org/doi/10.1021/acs.jcim.4c01203 onde docentes e editores de qualquer lugar do planeta poderão obter mais informações a respeito.
“Editores de diversos países já estão utilizando depois que ficaram sabendo da publicação. Durante as férias, vamos dar cursos de educação continuada para profissionais interessados e professores do ensino médio (CCE PUC-Rio)”, acrescenta.
O professor André Pimentel também apresentará palestra sobre o Gotcha GPT para professores do ensino médio durante o 4º Simpósio de Educação em Ciência (Campus Xerém - UFRJ - Eventos do Campus) que acontecerá on line em dezembro de 2024, sendo organizado no âmbito do Programa de Pós-Graduação em Formação em Ciências para Professores - PROFICIÊNCIAS - Mestrado Profissional que aborda temas relacionados à educação e ao ensino de Biologia, de Química, de Física e de áreas correlatas e afins.
“A ferramenta precisa ser divulgada entre professores de ensino fundamental, médio e superior, pois algo muito útil, fácil de usar e evita processos judiciais envolvendo alunos e professores. Além disso, evita problemas de interação entre o professor e o aluno em sala de aula, quando um professor acusa sem provas o aluno de uso não ético de IA pelo aluno”, comenta André Pimentel, que ainda separou algumas dicas aos docentes.
Dicas aos professores
1) Usar sempre word na extensão docx;
2) Não usar os arquivos no formato pdf,
3) Solicitar que o aluno assine uma autorização dos alunos para o professor revisar os textos dos alunos através do Gotcha GPT,
4) Nunca acusar o aluno de falta de ética sem provas;
5) Quando detectar o uso não ético de IA pela primeira vez, o professor deve chamar a atenção do aluno em ambiente privado, e declarar que medidas mais severas serão tomadas quando detectar novamente.
Foto: Matheus Santos/Comunicar PUC-Rio