Uso ético da inteligência artificial: pesquisadores brasileiros lançam livro para bom uso da IA em produção acadêmica

Você já pensou no quanto o uso ético da inteligência artificial é importante? E no quanto a inteligência artificial vem sendo usada na pesquisa acadêmica sem sequer nos darmos conta?

De fato, o tema pode interessar tanto a profissionais da psicologia quanto aos usuários de seus serviços.

Isso porque a Inteligência Artificial Generativa (IAG) já está sendo usada em diversas áreas, inclusive na produção de conhecimento científico.

Assim, entender como utilizá-la de maneira ética e responsável é fundamental. Desse modo, garante-se a qualidade da informação, a transparência e a integridade acadêmica.

É inegável que usaremos a inteligência artificial cada vez mais daqui por diante. E, por consequência, ignorar isso é ficar para trás.

Lembro bem da época de Cefet-PR (hoje UTFPR). Então, os professores não deixavam usar Autocad. Primeiro, precisávamos aprender a desenhar com nanquim.

Eu me pergunto se ainda existe algum técnico ou engenheiro mecânico que usa nanquim e papel vegetal para seus projetos.

Enquanto navegava pela internet, então, encontrei um artigo de extrema importância no blog da Scielo.

Por que essas diretrizes são importantes?

Pesquisadores brasileiros lançaram o livro Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa, publicado pela editora Intercom.

• Rafael Cardoso Sampaio – Professor de Política na Universidade Federal do Paraná (UFPR) e bolsista produtividade do CNPq.
• Marcelo Sabbatini – Professor do Programa de Pós-Graduação em Educação Matemática e Tecnológica da Universidade Federal de Pernambuco (UFPE).
• Ricardo Limongi – Professor de Marketing e Inteligência Artificial na Universidade Federal de Goiás (UFG)

Assim, eles criaram esse material para ajudar acadêmicos a usarem essa tecnologia com responsabilidade.

Esse guia oferece orientações claras e práticas.

Além disso, garante que a IA seja uma aliada no avanço do conhecimento, sem comprometer princípios éticos.

• Para baixar o eBook gratuitamente, acesse: Diretrizes para o uso ético e responsável da IAG.

Como garantir transparência e autoria no uso da inteligência artificial?

Para garantir o uso ético da inteligência artificial, os pesquisadores destacam dois pontos principais:

• Transparência: Todos os processos automatizados precisam ser documentados de maneira clara. Dessa forma, qualquer pessoa pode entender como a IA está presente na pesquisa.
• Autoria: O crédito deve ir a quem realmente produziu o conteúdo. A IA pode ajudar, mas o pensamento e a interpretação devem ser humanos.
• Proteção de dados: a fim de garantir a não utilização de informações sensíveis de maneira inadequada por sistemas internacionais.

Além disso, a IA deve ser uma ferramenta auxiliar, e não uma substituta do pesquisador.

Ou seja, quem define a metodologia, analisa os resultados e tira conclusões ainda precisa ser o ser humano.

Quais são os desafios no uso da IAG na pesquisa?

Apesar dos benefícios, o uso da inteligência artificial na pesquisa, de fato, traz apontamentos (ou desapontamentos) importantes:

• Revisões bibliográficas tendenciosas: Muitas ferramentas priorizam artigos em inglês e ignoram fontes brasileiras. Logo, isso pode limitar o conhecimento disponível.
• Conteúdos de acesso restrito: A IA pode dar preferência apenas a artigos de acesso livre, deixando de fora pesquisas importantes. Aliás, para acessar conteúdos pagos, mande um email para o pesquisador, geralmente eles adoram compartilhar seus achados. Ou, então, use o Sci-Hub (site que me salvou nas minha formação acadêmica diversas vezes)
• Redações genéricas: O uso excessivo de IA para escrever partes metodológicas pode gerar textos superficiais e pouco detalhados. A metodologia é importante para entender a qualidade de uma pesquisa, gente. Portanto, tem que caprichar nessa parte. A IA ainda não consegue fazer isso adequadamente.
• Falhas em detectores de IA: Algumas ferramentas que identificam textos escritos por IA podem errar. Por vezes, elas podem classificar erroneamente textos humanos como artificiais. Por outro lado, artificiais como humanos. Professores que analisam trabalhos de seus alunos com elas, aprendam uma coisa. Elas. Não. Funcionam.

Como construir uma cultura de integridade acadêmica?

Para garantir o uso ético e responsável da IA, os pesquisadores sugerem:

• Analisar sinais de autoria artificial: Textos sem exemplos concretos ou com citações genéricas podem indicar um uso excessivo de IA.
• Fomentar a integridade acadêmica: A IA é um suporte. Ela não deve substituir o esforço intelectual humano.
• Estimular o pensamento crítico: É fundamental que os pesquisadores desenvolvam habilidades específicas. Eles devem interpretar e avaliar criticamente os conteúdos gerados por IA.

Qual é o futuro do uso ético da inteligência artificial no Brasil?

O Brasil ainda não possui regulamentação específica para o uso da IA em pesquisas científicas.

Isso é preocupante, inclusive para a Psicologia. Se não tivermos algo assim, logo ficaremos para trás. Assim como ficamos atrasados para a questão do atendimento online que só avançou por um péssimo motivo. A Covid-19.

Isso significa que os pesquisadores estão expostos às políticas de grandes empresas internacionais, algo arriscado.

Não dá pra gente ignorar o viés de quem programou a máquina.

Os autores do guia defendem que é necessário:

• Criar diretrizes nacionais para regulamentar o uso da IA na pesquisa.
• Desenvolver modelos de IA específicos para o Brasil, hospedados em servidores locais, para proteger os dados científicos do país.

O eBook é uma indicação para qualquer um que faça uso a IA em pesquisa.

O livro ajuda a não comprometer a ética e a integridade acadêmica.

Ele não apenas apresenta regras, mas também incentiva reflexões sobre como equilibrar tecnologia, criatividade e pensamento crítico.

Aliás, eu usei a inteligência artificial para me ajudar a escrever este texto e sintetizar as ideias. Mas os prompts para obter os resultados que eu desejava foram de minha autoria.

E a edição, correção, adequação da linguagem, inclusão de conectivos, redução de voz passiva e de gerúndios e muito mais foram bem umanos.

Referência

SAMPAIO, R. C.; SABBATINI, M.; LIMONGI, R. Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa: um guia prático para pesquisadores. São Paulo: Editora Intercom, 2024. Disponível em: https://www.portcom.intercom.org.br/ebooks/detalheEbook.php?id=57203.