2024-生成式人工智能在研究项目管理中的风险分析与对策）-10页

第 39 卷 第 4 期 中国科学基金 1 • 管理纵横 • DOI: 10.3724/BNSFC-2024.11.15.0002 生成式人工智能在科研项目管理中的风险分析 及应对措施 姚 畅1*宫 辰2*李广宇2邓雨亭3万 升2魏 鹏4黄俊杰4 1. 国家自然科学基金委员会 信息中心，北京 100085 2. 南京理工大学 计算机科学与工程学院，南京 210094 3. 南京理工大学 知识产权学院，南京 210094 4. 南京理工大学 科学技术研究院，南京 210094 [摘 要] 近年来，生成式人工智能的浪潮席卷全球，深刻地改变了多个行业领域的发展格局。然而，随 着生成式人工智能技术的快速发展与广泛应用，其潜在的风险与挑战也逐渐显现，尤以科研项目管理领 域为甚。为全面分析生成式人工智能对科研项目管理的影响和风险，本文对全球范围内的相关机构政策 和专家观点进行了系统调研，并利用“动机—机会—能力”及“技术—组织—环境”理论框架，从人工智能 技术、法律法规和伦理道德等多方面入手，深入分析了生成式人工智能在科研项目管理中的各类风险，包 括隐私与安全风险、内容与决策风险、权属与侵权风险、道德与诚信风险、多元与创新风险、文化与伦理风 险等。在此基础上，本文进一步从政策引导、管理规范与技术支撑三个层面提出应对策略，以确保科研项 目管理工作的健康有序进行，推动生成式人工智能在科研项目管理领域的规范化应用。 [关键词] 生成式人工智能；科研项目管理；风险分析；风险应对；“动机—机会—能力”框架；“技术—组织 —环境”框架 1 背景与目的 近年来，以ChatGPT为代表的生成式人工智能 （Generative AI）浪潮席卷全球，其强大的文本生成、图像 合成、声音模拟及视频创作能力，深刻地改变了多个行 业领域的发展轨迹。相较于传统人工智能，生成式人工 智能是一种可让计算机自动创建新的内容和想法的人 工智能，其在艺术创作、自然语言处理、文本翻译和代码 编写等任务中获得了能够和人类智能相媲美的性能。 目前，生成式人工智能给人们的工作和生活带来了很多 便利，在优化业务流程、改善用户体验和提高工作效率 等方面展现出独特的优势，激发了各行各业的广泛关注 与应用探索。从艺术创意到金融投资，从教育培训到医 疗健康，生成式人工智能正以前所未有的速度融入社会 生活的方方面面。 然而，随着生成式人工智能技术的快速发展与广泛 应用，其潜在的危害也逐渐显现。例如，生成式人工智 能能够轻松创建与真实内容难以区分的虚假信息，如假 新闻，以及深度伪造的图像和视频等。这些虚假内容不 仅可能误导公众，破坏社会信任，还可能引发社会动荡、 经济损失甚至暴力事件。在科学领域，研究者有可能利 用生成式人工智能技术轻易制作虚假研究论文并伪造 实验数据等，这些虚假成果一旦发表，将严重干扰学术 界的正常秩序，误导科研人员的研究方向，严重损害科 研诚信，破坏科研生态。此外，恶意利用生成式人工智 能进行造假和欺诈等行为也日益增多，如利用深度伪造 技术进行勒索、诽谤以及通过生成式人工智能辅助的网 络攻击，对数字系统和网络安全构成严重威胁。 科研项目管理是一项系统性强、任务复杂的工作， 收稿日期：2024-11-15； 修回日期：2025-06-08 * 通信作者，Email：yaochang@nsfc.gov.cn；chen.gong@njust.edu.cn 引用格式: 姚畅，宫辰，李广宇，等. 生成式人工智能在科研项目管理中的风险分析及应对措施. 中国科学基金，2025，39（4）：1–10. Yao C，Gong C，Li GY，et al. Risk analysis and countermeasures of generative artificial intelligence in research project management. Bulletin of National Natural Science Foundation of China，2025，39（4）：1–10.（in Chinese） 其核心目标在于保障科研资源的合理配置，推动科研活 动高效有序地开展，并产出高质量成果 [1]。然而，随着 生成式人工智能技术的迅猛发展，科研项目管理也面临 着诸多新的风险和挑战。例如，从科研项目管理全流程 的角度出发，在项目申请阶段，申请人可能利用生成式 人工智能伪造研究内容...