本文围绕人工智能时代学生和科研工作者用前沿大模型写论文是否靠谱这一问题展开，介绍了AI幻觉现象、成因，邀请专家探讨如何守护年轻人思辨能力，还给出应对AI幻觉的方法，并指出AI幻觉也有积极一面，强调要与AI更好协作。
在当今这个人工智能呈现出飞速发展态势的时代，一个至关重要的问题摆在了广大学生和科研工作者面前：借助像这样的前沿大模型来撰写论文，真的是可靠的选择吗？
3月28日，#防止DeepSeek乱编文献的方法#这一话题迅速冲上热搜。记者在调查中发现，使用AI工具撰写论文而“踩坑”的情况并不少见。
当你向AI提出一个问题时，它会给出一个看似特别详细、丰富且逻辑清晰的答案。然而，当我们试图去核实这些信息时，却惊讶地发现它们完全是虚构的。这就是在AI领域中著名的“AI幻觉”现象。
所谓AI幻觉，指的是AI会生成那些表面上看起来合理，但实际上却是错误的信息。其最常见的表现形式就是编造一些根本不存在的事实或者细节。
根据“科普中国”的相关研究，造成AI幻觉问题的原因是多方面的。例如，基于统计关系的预测方式可能会导致结果出现偏差；训练数据存在局限性，无法涵盖所有的情况；过拟合问题使得AI记住了过多错误或者无关紧要的内容，从而对训练数据中的噪声过于敏感；有限的上下文窗口限制了AI对问题的全面理解；还有为了生成流畅回答而进行的设计，也可能引发AI幻觉。
近日，中国青年报特意邀请了3位专家学者，共同探讨在技术浪潮中如何守护年轻人的思辨能力。
中国人民大学新闻学院教授卢家银指出，在知识建构方面，AI生成的虚假学术成果，有可能扭曲青年对科学方法论的正确理解，削弱他们“假设 – 验证”的科研逻辑训练。在思维发展方面，AI谣言通过算法推荐形成的“信息茧房”会构成逻辑闭环，这对于年轻人批判性思维的培养是极为不利的。
北京师范大学教育学部教授、教育技术学北京市重点实验室副主任李艳燕建议，年轻人可以将AI视为一位能够平等对话的智者。通过引导与AI的对话互动，促进个体思维链的形成，并校准认知偏差。这种去权威化的思辨训练，有助于年轻人在与AI的交流过程中保持独立判断，实现认知的跃迁。
北京邮电大学马克思主义学院副教授宋林泽认为，AI输出的内容仅仅是一个认知的起点，而并非终点。大学生需要主动去验证其内容的真实性，比如查阅权威来源、对比不同观点，甚至直接与领域专家进行交流。这种验证过程，不仅能够帮助我们更全面地理解问题，还能让我们在面对复杂信息时具备更强的判断力。
那么，我们应该如何应对AI幻觉呢？
AI工具研究者田威提到，若想从AI那里获得准确的答案，提问方式起着关键作用。与AI进行交流时，问题需要明确和具体，要避免模糊或开放性的问题。一般来说，提问越具体、清晰，AI给出的回答就越准确。
总结成提示词技巧主要有以下四种问法：
1. 设定边界：例如“请严格限定在2022年《自然》期刊发表的研究范围内”。具体示例为，将“介绍ChatGPT的发展历程”改为“请仅基于OpenAI官方2022 – 2023年的公开文档，介绍ChatGPT的发展历程”。
2. 标注不确定：即“对于模糊信息，需要标注‘此处为推测内容’”。比如把“分析特斯拉2025年的市场份额”改为“分析特斯拉2025年的市场份额，对于非官方数据或预测性内容，请标注[推测内容]”。
3. 步骤拆解：像“第一步列举确定的事实依据，第二步展开详细分析”。以“评估人工智能对就业的影响”为例，可以改为“请分两步评估AI对就业的影响”：
1) 先列出目前已发生的具体影响案例；
2) 基于这些案例进行未来趋势分析。
4. 明确约束：要明确告诉AI要基于已有事实回答，不要进行推测。例如将“预测2024年房地产市场走势”改为“请仅基于2023年的实际房地产数据和已出台的相关政策进行分析，不要加入任何推测性内容”。（详细请戳全文）
在AI自己给出的答案中提到，可以通过指令约束、工具验证和人工审核这三重保障，大幅降低AI虚构文献的风险。值得特别注意的是，它还把“人工审核”放在了“最后防线”的重要位置。
田威提醒大家，AI幻觉并非完全是坏事。有时候，我们与其把AI幻觉看作是一种缺陷，不如将其视为创意的源泉。在写作、艺术创作或者头脑风暴等活动中，这些“跳跃性思维”反而有可能帮助我们打开全新的视野，进入一个前所未有的新世界。
AI幻觉的本质就像是AI在知识的迷雾中，偶尔会创造出看似真实，实则虚幻的“影子”。但就如同任何工具一样，关键在于我们如何去使用它。
归根结底，在这个AI与人类共同进步的时代，重要的不是去责备AI的不完美，而是要学会与它更好地协作。
本文围绕AI写论文是否靠谱展开，介绍了AI幻觉现象及成因，专家给出守护年轻人思辨能力的建议，还提供应对AI幻觉的方法，指出AI幻觉有积极一面，强调在AI时代要与AI更好协作。
原创文章，作者：Kennedy，如若转载，请注明出处：https://www.lingtongdata.com/6733.html
