Revista Electrónica Educare EISSN: 1409-4258 Vol. 28, Suplemento Especial, 2024: 1-9
doi: https://doi.org/10.15359/ree.28-S.20853
https://www.revistas.una.ac.cr/index.php/educare
educare@una.ac.cr
[Cierre de edición: 31 diciembre 2024]
Declaração de Heredia:
Princípios sobre o uso da inteligência artificial na publicação científica
Declaración de Heredia:
Principios sobre el uso de inteligencia artificial
en la edición científica
The Heredia Declaration:
Principles on the use of artificial intelligence in scientific publishing
Resumo
Introdução. A Declaração de Heredia propõe, a partir da perspectiva da publicação científica, uma série de considerações para a utilização responsável da Inteligência Artificial (IA) nos processos de investigação que levam à publicação científica. A IA é reconhecida como uma ferramenta cujo uso deve ser evidente e transparente para um exercício transparente, rastreável e reprodutível do conhecimento. Chama-se à atenção para os desafios que implica a incorporação da IA na publicação científica em termos de diversidade de opções, de evitar a propagação de vieses e desinformação e de respeito pela propriedade intelectual. Princípios. Estão organizados em quatro grupos: geral, para as funções de autoria, revisão por pares e edição. Destaca-se a importância da utilização da IA como ferramenta, cujos resultados são filtrados por seres humanos que, a partir de uma perspectiva ética e responsável, relatam, de forma transparente, o modelo utilizado, o que e quando foi consultado. Reflexão final. Mostra tratar-se de um cenário em constante evolução, cuja finalidade deve ser o bem-estar humano e a qualidade de vida.
Palavras-chave: Publicação científica; gestão editorial; inteligência artificial; ética; comunicação científica.
Resumen
Introducción. La Declaración de Heredia propone, desde la perspectiva de la edición científica, una serie de consideraciones para el uso responsable de la inteligencia artificial (IA) en los procesos de investigación que llevan a la publicación científica. Se reconoce a la IA como una herramienta cuyo uso se debe evidenciar y transparentar para un ejercicio claro, trazable y reproducible del conocimiento. Se llama la atención sobre los retos que supone la incorporación de la IA a la edición científica en cuanto a la diversidad de opciones, el evitar la propagación de sesgos y desinformación, y el respeto a la propiedad intelectual. Principios. Están organizados en cuatro grupos: general, para los roles de autoría, revisión por pares y edición. Resaltan la importancia de utilizar la IA como una herramienta cuyos resultados son filtrados por seres humanos que, desde una perspectiva ética y responsable, reportan, de forma transparente, a qué modelo, qué se consultó y cuándo se hizo la consulta. Reflexión final. Pone de manifiesto que se trata de un escenario en constante evolución cuyo fin último debe ser el bienestar humano y la calidad de vida.
Palabras Claves: Edición científica; gestión editorial; inteligencia artificial; ética; comunicación científica.
Abstract
Introduction. The Heredia Declaration proposes, from the perspective of scientific publishing, a series of considerations for the responsible use of artificial intelligence (AI) in research processes leading to scientific publication. The use of AI as a tool must be evidenced and transparent for a clear, traceable, and reproducible exercise of knowledge. Attention is drawn to the challenges of incorporating AI into scientific publishing in terms of the diversity of options, the need to prevent the spread of bias and misinformation, and the respect for intellectual property. Principles. Principles are organized into four groups: general, roles of authorship, peer review, and editing. They highlight the importance of using AI as a tool whose results are filtered by humans who, from an ethical and responsible perspective, transparently report which model was used, what was consulted, and when the inquiry took place. Final reflection. The article highlights that this is a constantly evolving scenario whose ultimate goal must be human well-being and quality of life.
Keywords: Scientific publishing; editorial management; artificial intelligence; ethics; scientific communication.
Considera-se que a inteligência artificial fornece as seguintes condições:
Ferramenta: A inteligência artificial (IA) se posicionou como uma ferramenta útil, versátil e aplicável a todas as ações humanas.
Benefícios e riscos: As experiências existentes sobre o uso da IA no campo da publicação científica destacam os benefícios que podem ser obtidos, mas também os riscos envolvidos na adoção extensiva de modelos que ainda continuam em evolução e melhoria.
Treinamento e precisão: O uso da IA como ferramenta de apoio para os processos de investigação e publicação científica envolvem a interação com modelos que, apenas através de treinamento, são calibrados e se tornam mais precisos.
Rastreabilidade e reprodutibilidade: A transparência é um princípio de comunicação cientista; assim, tornar o uso da IA transparente na escrita de textos científicos permite a atribuição de rastreabilidade, entender as interações com a ferramenta e deixar rotas para reproduzir ou replicar boas práticas e estratégias de aproveitamento.
Diversidade e propriedade intelectual: É preciso ter consciência de que, diante da diversidade de opções de modelos de IA e aplicativos disponíveis, deve-se buscar fazer combinações não apenas do mais útil ou eficiente, mas também do mais responsável no uso de material com propriedade intelectual. Isso engloba várias manifestações de proteção das criações humanas, tais como: patentes, imagens ou material sonoro, entre outros. Logo, deve haver também clareza sobre a possibilidade de derivação e transformação do material com o qual um modelo de IA fornece respostas às perguntas de quem o usa.
Mitigação de preconceitos e desinformação: A criação e programação de modelos de IA é humana, assim como o trabalho intelectual que compõe as bases de dados usados pela IA; portanto, está implícito o viés que vem da condição humana. As pessoas devem estar cientes disso para que, quando estiverem interagindo com a IA, não ampliem, prolonguem ou propaguem vieses e, a partir deles, desinformação.
Bem-estar humano. Do espírito mais altruísta – assim como dos princípios bioéticos – o bem-estar humano deve ser o eixo que canaliza a tomada de decisões relacionadas com a incorporação de ferramentas de IA nos processos de investigação e sua posterior publicação.
Dimensionamento do escopo. Acabamos de começar a medir o escopo e o impacto da incorporação da IA na gestão do conhecimento. Estamos diante de um cenário em evolução onde há debates abertos aos quais se deve prestar atenção, a fim de canalizar estrategicamente as ações que orientam o uso ético e responsável da ferramenta.
Princípios da edição científica sobre o uso da inteligência artificial
Esses princípios fazem referência ao segmento da comunicação do conhecimento relativa à gestão editorial, onde as funções de edição, revisão (ou arbitragem) e autoria interagem. Quem assume o papel de editor tem a responsabilidade de liderar e mediar o processo que conduz à publicação, de modo a que o uso da IA, tema central desta declaração, fique claramente explicado. Embora seja parte da perspectiva das pessoas na função de edição, espera-se que as ideias apresentadas sirvam de suporte para outras partes do processo de geração de conhecimento e outras atividades relacionadas com o processo de publicação científica, como traduções ou revisões de estilo e redação.
Em geral
1. Os papéis de edição, revisão e autoria são desempenhados por seres humanos que podem mediar o processo de publicação de artigos científicos. No exercício desses papéis, as pessoas devem ser treinadas para adotar e alfabetizar-se em práticas responsáveis em torno da comunicação científica e da inteligência artificial.
2. A IA não deve substituir as responsabilidades ou a responsabilização das pessoas que exercem tais papéis. O processo editorial também não deve depender exclusivamente de ações relacionadas com a IA.
Sobre o papel da autoria
3. São os seres humanos que exercem o papel de autoria, nessas pessoas pode ser reconhecida a capacidade de criar, tomar decisões e assumir responsabilidades pelos trabalhos gerados. Assim, os modelos de linguagem, chatbots ou IA generativa não podem ser considerados autores, pois não podem assumir essas três condições de forma abrangente.
4. Declarar explicitamente o uso da IA em processos de investigação e redação de textos científicos – durante qualquer estágio do processo de publicação científica – é um sinal de transparência que contribui para as boas práticas, objetivando garantir a reprodutibilidade da ciência. Nesse sentido, é necessário considerar uma explicação confiável que mencione, pelo menos:
• O modelo de IA, sua versão e a data de uso.
• Como foi usado, identificando as interações e combinações que podem ser articulados entre modelos.
• Quais produtos e formatos (daqueles gerados por essa interação) foram integrados na publicação dos resultados.
• Citar e referenciar o modelo utilizado, compreendendo a diversidade e complexidade potencial das interações e combinações que podem ser articuladas ao usar esta ferramenta.
5. Espera-se que as pessoas autoras tenham filtrado as informações sobre o conteúdo fornecido em resposta a um modelo de IA e que a partir dessas entradas gerem novos conhecimentos. Validar a veracidade das informações obtidas é ainda mais relevante no contexto atual. As respostas oferecidas pela IA não podem ser consideradas verdadeiras ou absolutas. Evitar o plágio, a desinformação, a disseminação de vieses ou outras fraudes acadêmicas faz parte das ações que as pessoas autoras devem tomar ao interagir com modelos de IA. Garantir que os insumos sejam usados legitimamente deve ser um interesse permanente daqueles que exercem o papel de autoria.
6. Dados pessoais, confidenciais, sensíveis ou de terceiros devem ser protegidos ao não existir uma autorização expressa para seu uso como parte das consultas em um modelo de IA.
7. Também deve ser mencionado se houve financiamento de terceiros para a implementação ou uso de modelos de IA no processo de investigação ou de publicação.
Sobre o papel da revisão
8. A responsabilidade dos critérios emitidos para recomendar, ou não, a publicação de um texto científico – ou para propor correções e melhorias – é da pessoa que exerce o papel de revisão. A interação com a IA não substitui seu julgamento de especialista ou sua responsabilidade.
9. Quando o uso da IA como complemento à revisão tiver sido incorporado, é necessário indicar isso à equipe editorial e, por meio deles, às pessoas autoras. Indicar pelo menos o nome do modelo, a versão, a data de uso, bem como o enunciado como uma instrução de avaliação faz parte de um exercício transparente e rastreável da avaliação de conteúdo.
10. As pessoas autoras devem ser capazes de explicar a interação que tiveram com a IA, quais informações receberam e quanto dessas informações foi considerada em observações, comentários, recomendações e solicitações de correção que emitiram como critérios de avaliação de um texto científico.
Sobre o papel da edição
11. A responsabilidade pelo processo de edição é da pessoa editora e da equipe editorial que o/a acompanha. O uso da IA não deve substituir a responsabilidade dos seres humanos ou sua responsabilização no exercício da edição ou no acompanhamento das ações das pessoas revisoras e autoras. O trabalho de edição de textos científicos não deve depender do uso da IA.
12. As pessoas editoras evidenciarão quando tiverem usado a IA em alguma parte do processo editorial. O nome do modelo, a versão, a data de uso, bem como a declaração de trabalho atribuído deverá ser relatado.
13. Devem ser estabelecidas estratégias de prevenção para evitar a propagação de vieses, a desinformação ou quando o respeito ou a abordagem ética dos dados pessoais não puderem ser garantidos. Além disso, deverá ser fomentado o uso de dados abertos, de qualidade, confiáveis e respaldados por consentimentos ou autorizações que permitam à IA fazer uso legítimo de tais informações.
14. Tendo em vista a transparência, será comunicado às pessoas autoras e leitoras quando as tarefas editoriais ou de revisão tiverem sido apoiadas pela utilização da IA.
Reflexão final
O processo de investigação e a comunicação de resultados ainda é essencialmente uma tarefa humana. Não podemos perder de vista que o uso da IA deve estar ao serviço da humanidade, da geração do bem comum e da possibilidade de melhorar a qualidade de vida das pessoas. Diante da realidade de que cada vez mais modelos são usados, e com mais frequência, o debate acadêmico deve ser aprimorado: não substituído por resultados ou produtos da interação de seres humanos com modelos de IA.
É especialmente relevante estar ciente de que os vieses estão presentes tanto nos diferentes estágios ou fases de construção de modelos e algoritmos, como nos momentos de interação com eles. Entender que esses vieses podem se manifestar de várias maneiras e que precisam ser identificados leva ao desenvolvimento de estratégias que orientem à sua mitigação, ao treinamento eficaz de modelos e a sua calibração.
Considerar que a interação do ser humano com a IA é um fenômeno que está em evolução e transformação, destaca a necessidade de manter uma visão crítica, de prospecção e que atualize constantemente as condições que orientam a utilização desta ferramenta.
References
Academia de Propiedad Intelectual. (2023, December 5 & 6). I Congreso Internacional de Propiedad Intelectual y Nuevas Tecnologías Digitales. Registro Nacional de Costa Rica.
Appel, G., Neelbauer, J., & Schweidel, D. A. (2023, April 07). Generative AI Has an Intellectual Property Problem. Harvard Business Review. https://hbr.org/2023/04/generative-ai
Bhosale, U. & Kapadia, A. (2023, September 29). AI Integration can Future-Proof Peer Review – But only if we define and drive the right principles. Enago Academy. https://www.
Cardoso Sampaio, R. (2024, February 07). Recomendações iniciais para editores de periódicos científicos sobre o uso de Inteligência Artificial generativa. Dados [Blog]. http://dados.iesp.uerj.br/recomendacoes-iniciais-para-editores-de-periodicos
Comisión Europea. (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la unión 2121/0106. https://eur-lex.europa.eu/legal-content/ES/
COPE. (2023, February 13). Authorship and AI tools. https://publicationethics.org/cope
Estévez, C. (2023, November 02). Taller Scopus para Editores: Gestión Editorial. Scopus; Conare.
Future of Life Institute. (2017). Asilomar AI Principles. https://futureoflife.org/open-letter/
International Committee of Medical Journal Editors (ICMJE). (2024). Recommendations for the Conduct, Reporting, Editing, and Publication of Scholarly Work in Medical Journals. https://www.icmje.org/icmje-recommendations.pdf
International Committee of Medical Journal Editors (ICMJE). (2024, February 6). Who is an Author? Defining the Role of Authors and Contributors. https://www.icmje.
International Committee of Medical Journal Editors (ICMJE). (2024, February 6). Artificial Intelligence (AI)-Assisted Technology. https://www.icmje.org/recommendations/browse/ .
Kaebnick, G. E., Magnus, D. C., Kao, A., Hosseini, M., Resnik, D., Dubljević, V., Rentmeester, C., Gordijn, B., & Cherry, M. J. (2023). Editors’ Statement on the Responsible Use of Generative AI Technologies in Scholarly Journal Publishing. The Hastings Center Report, 53(5), 3–6. https://doi.org/10.1002/hast.1507
Levene, A. (2023, February 23). Artificial intelligence and authorship. COPE. https:// +
Nazer, L. H., Zatarah, R., Waldrip, S., Chen Ke, J. X., Moukheiber, M., Khanna, A. K., Hicklen, R. S., Moukheiber, L., Moukheiber, D., Ma, H., & Mathur, P. (2023). Bias in artificial intelligence algorithms and recommendations for mitigation. Plos Digital Health, 2(6), e0000278. https://doi.org/10.1371/journal.pdig,0000278
Organization for Economic Co-operation and Development (OECD). (2023). Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449. https://
Organización Mundial de la Propiedad Intelectual (OMPI). (2020). Diálogo de la OMPI sobre propiedad intelectual (PI) e Inteligencia artificia (IA). https://www.wipo.int/meetings/
ReviewersCredits. (2024, February 22). AI in Peer Review: Reviewer Credits Discussion Webinar [Video]. YouTube. https://www.youtube.com/watch?v=DWrrbwHLU8Q
Spinak, E. (2023, August 30). Inteligencia Artificial y comunicación de investigaciones. Scielo Blog [Blog]. https://blog.scielo.org/es/2023/08/30/inteligencia-artificial-y
Tavira, R. (2023). Política editorial de revistas con relación a la IA: casos Elsevier, Springer Nature & Taylor/Francis. Boletín SciELO-México. https://boletinscielomx.blogspot.
The University of Utah. (2023, July 13). Guidance in the use of AI in research. https://attheu.
Unesco. (2019, May 16-18). Consenso de Beijing sobre la inteligencia artificial y la educación. https://unesdoc.unesco.org/ark:/48223/pf0000368303
Unesco. (2022). Recomendación sobre la ética de la inteligencia artificial. https://unesdoc. /48223/pf0000381137_spa
Watson, R. & Štiglic, G. (2023, February 23). Guest editorial: The challenge of AI chatbots for journal editors. COPE. https://publicationethics.org/news/challenge-ai-chatbots
Zielinski, C., Winker, M. A., Aggarwal, R., Ferris, L. E., Heinemann, M., Lapeña, J. F., Pai, S. A., Ing, E., Citrome, L., Alam, M., Voigh,t M., Habibzadeh, F., & WAME Board. (2023, May 31). Chatbots, Generative AI, and Scholarly Manuscripts. WAME Recommendations on Chatbots and Generative Artificial Intelligence in Relation to Scholarly Publications. WAME. https://wame.org/page3.php?id=10
Assinado em Heredia, Costa Rica, em Janeiro 15, 2024
Liana Penabad-Camacho
Editor, Revista Electrónica Educare, Universidad Nacional
https://orcid.org/0000-0001-9381-182X
María Amalia Penabad-Camacho
Editor, Revista Géneros, Feminismos y Diversidades, Universidad Nacional
https://orcid.org/0000-0002-5095-5775
Andrea Mora-Campos
Academic Advisor, Vice-Presidency for Research, Universidad Nacional
https://orcid.org/0000-0001-9813-2674
Gerardo Cerdas-Vega
Editorial Director Revista Perspectivas Rurales, Universidad Nacional
https://orcid.org/0000-0003-3912-4193
Yuri Morales-López
Editor-in-chief, Uniciencia, Universidad Nacional
https://orcid.org/0000-0002-2973-4038
Mónica Ulate-Segura
Editor, Perspectivas Rurales, Universidad Nacional
https://orcid.org/0009-0005-7740-4980
Andrea Méndez-Solano
Editor, Revista de Historia, Universidad Nacional
https://orcid.org/0000-0001-5326-2088
Nidya Nova-Bustos
Editor-in-chief, Revista Ciencias Marinas y Costeras, Universidad Nacional
https://orcid.org/0000-0003-1966-0415
María Fernanda Vega-Solano
Editor, Revista Economía y Sociedad, Universidad Nacional
https://orcid.org/ 0000-0002-8104-8596
María Milagro Castro-Solano
Editor, Revista Abra y Revista Economía y Sociedad, Universidad Nacional
https://orcid.org/0000-0002-0516-5352
Se você quer assinar esta declaração, preencha o seguinte formulário:
https://docs.google.com/forms/d/e/1FAIpQLSdtuGwcc3VDW3YUNaE5zVWQ
Regresar al inicioContato
Escreva para educre@una.ac.cr
Insira no assunto: Declaração de Heredia
Imagem produzida com a autorização da equipe PIEG-UNA.
Se você quer assinar esta declaração, preencha o seguinte formulário:
https://docs.google.com/forms/d/e/1FAIpQLSdtuGwcc3VDW3YUNaE5zVWQiFKptTRX81apm0_l3Xr6Tw60vw/viewform
Artículo de la Revista Electrónica Educare de la Universidad Nacional, Costa Rica by Universidad Nacional is licensed under a Creative Commons Attribution-NonCommercial-NoDerivs 3.0 Costa Rica License.
Based on a work at https://www.revistas.una.ac.cr/index.php/EDUCARE
Permissions beyond the scope of this license may be available at educare@una.ac.cr