AI可以辅助科研，学术责任必须由人承担

一篇手稿在同行评审中被质疑引用有误，或引用了根本不存在的文献。面对期刊询问，作者承认使用ChatGPT撰写手稿，却没有核实生成内容及其来源。作者提出删除相关内容、重新修改，稿件最终仍遭拒绝。9月11日，在主题为“学术与科研场景下的AI”的第十七届创新发展论坛上，《虚拟现实与智能硬件》编辑部主任孙书军在报告中介绍的一起案例。

《虚拟现实与智能硬件》编辑部主任孙书军。摄影：张喆

会场上，他以《学术出版中AIGC使用规则边界》为题，从出版实践出发，讨论AIGC进入科研流程后必须回答的问题：哪些工作可以交给工具辅助，哪些判断和责任必须由人承担。

孙书军介绍，AIGC已应用于科研与学术出版的多个环节，能够帮助科研人员提高效率。与此同时，回答不准确、版权争议、隐私泄露和大模型幻觉等问题也随之出现。他举例说，使用AI检索论文的数字对象标识符（DOI）时，工具可能给出一个看似合理、实际上并不存在的结果。“AIGC具备生成答案的能力，并不能保证答案真实。”他强调。

润色后的内容仍需审核

结合报告主题，孙书军梳理了不同环节的AIGC使用边界。AIGC可以帮助梳理文献、发现信息来源、跟踪研究进展，但其提供的参考文献可能虚构，也可能过时。孙书军强调，研究人员必须阅读并验证相关建议和参考文献，核实来源的可信性。深度研究功能也不能免除核验责任。对于采集到的观点类资料，还需监督和核查，避免偏颇信息被不当传播。