本文围绕人工智能在全球的爆发式发展，以博鳌亚洲论坛2025年年会为背景，深入探讨了人工智能带来的机遇与挑战，包括适应AI“新常态”、加固“安全护栏”以及让治理跟上技术步伐等方面的内容。
新华社海南博鳌3月27日消息，如今，从“AI儿科医生”参与病情会诊，为患者提供精准诊断；到“AI数智员工”辅助提供公共服务，提升办事效率；再到人形机器人走进工厂上班，承担繁重的生产任务……全球人工智能技术正处于爆发式发展阶段，它以前所未有的速度融入千家万户，深刻改变着千行百业。当AI重塑我们所熟悉的世界，随之而来的机遇与挑战该如何应对？应用与治理又该如何平衡推进？
正在举行的博鳌亚洲论坛2025年年会上，来自国内外技术前沿领域的专家、学者以及企业代表们，就这些相关话题展开了热烈的讨论。
适应AI“新常态”
当下，人工智能正加速赋能千行百业，广泛进入教育、医疗、政务、金融等众多场景。越来越多的人切实感受到了AI带来的便利。从无人驾驶汽车在道路上安全行驶，到机器人在危险环境中执行任务，再到脑机接口技术为医疗康复带来新希望，大众对AI应用产生了更多的期待。
毕马威中国首席技术官及创新主管合伙人刘建刚表示，人工智能已经不再是一个遥远的未来概念。对于很多企业而言，利用人工智能加速决策过程、创新产品设计、优化运营管理，已不再是一道选择题，而是一道必须要做的必答题。
相关数据显示，2024年我国完成备案并上线提供服务的生成式人工智能大模型接近200个，注册用户超过6亿；工业机器人装机量占全球的一半以上。
3月26日，博鳌亚洲论坛嘉宾围绕“在AI应用中塑造核心竞争力”议题进行了深入讨论。（新华社记者 杨冠宇 摄）
今年政府工作报告提出，要持续推进“人工智能 +”行动。国务院研究室副主任陈昌盛表示，今年将开展新技术新产品新场景大规模应用示范行动，在确保安全的前提下，加快人工智能在低空经济、教育培训、医疗健康等多个场景的应用。
中兴通讯股份有限公司董事长李自学指出，当前人工智能通用型应用正加速普及，但在行业领域还存在诸多问题，如不好用、不易用、不会用等。应在通用基础大模型的基础上，结合不同行业的应用场景需求，加强专属领域的定制与深度训练，让大模型成为懂行业的“能工巧匠”，从而促进人工智能与产业的真正结合。
有观点认为，未来可能会出现自然人、机器人、数字人并存交互的社会形态。《博鳌亚洲论坛亚洲经济前景及一体化进程2025年度报告》指出，随着人工智能技术的广泛应用，部分行业的就业将受到严重影响。
“替代部分工作岗位是技术变革中的必然过程，有些岗位受到影响，也会有新岗位出现。”vivo高级副总裁、首席技术官施玉坚说，每个人都要通过不断学习来提升自己的综合素质，以适应AI带来的变化。
多位与会嘉宾表示，除了加强人工智能知识技能的教育培训外，还应考虑制定新的社会保障政策，加强对受冲击劳动者群体的兜底保障。
加固“安全护栏”
在博鳌亚洲论坛多场人工智能相关活动上，与会嘉宾普遍认为，随着AI能力越来越强大，AI不可控、被滥用等风险也会越来越高。因此，在推广应用AI的过程中，要加固“安全护栏”。
在社交平台上，不少人吐槽AI会一本正经地胡说八道。清华大学公共管理学院院长朱旭峰表示，这是AI幻觉现象，指大模型有时会混淆事实和虚构内容，在看似是事实的句子中插入错误细节。AI胡编乱造可能会产生误导，甚至会引发严重后果，特别是在医疗、金融、法律等对信息真实性和准确性要求极高的领域。
“技术暂时不成熟，我们不能因噎废食。”朱旭峰说，要加大对技术的开发和使用力度，推动AI幻觉等问题随着技术的不断进步逐步得到解决。
AI应用过程中需要使用大量的数据，数据安全与隐私保护备受公众关注。多位与会嘉宾表示，在现实中，具体应用场景下哪些数据必须收集，敏感信息数据如何避免泄露等问题，需要进一步明晰相关的制度规则。
施玉坚认为，随着AI技术的普及，企业对数据的依赖程度日益加深，如果不采取相应的安全措施，就可能造成数据泄露的风险。“数据要进行脱敏或加密处理，增强传输和存储过程中的安全性。”
AI技术的滥用误用是显著风险之一。有统计显示，2024年全球发生的AI风险事件，超过30%与利用AI进行深度伪造相关。深度伪造名人形象、声音进行虚假宣传甚至诈骗的事件不时见诸报端。
3月26日，博鳌亚洲论坛2025年年会举行“AI：如何做到应用与治理的平衡推进”分论坛。（新华社记者 蒲晓旭 摄）
多位嘉宾表示，AI深度伪造现象层出不穷，主要原因在于造假成本低，而追查、执法成本大。因此，应针对AI误用滥用完善相关法律法规，加大惩罚力度。
伴随AI产生的伦理道德争议也不容忽视。中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅认为，伦理安全应作为人工智能大模型发展的“基因”。如何在追求技术进步的同时坚守道德底线，是需要共同面对的重要课题。
“人工智能的发展与安全不是互相掣肘的关系。”曾毅说，最新研究表明，可以在几乎不影响人工智能大模型求解能力的同时，通过科学的方式提升其安全能力。
让治理跟上技术步伐
如何让治理跟上AI技术的步伐？与会嘉宾表示，AI治理是一个全球性的复杂问题，需要达成世界共识，推动各领域相互协作。目前，主要经济体都在加速相关立法进程。
在AI治理中，中国坚持统筹发展和安全，有关部门已发布多项AI治理指导文件。其中，前不久发布的《人工智能生成合成内容标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理。
在芬兰前总理埃斯科·阿霍看来，政策制定者、企业家、科学家等利益相关方应聚在一起，建立共识，通过制定标准来应对AI带来的治理挑战。
“AI医生”看病出了问题算谁的责任？当人工智能系统产生不良后果时，如何确定责任归属也需进一步厘清。“多位嘉宾都提到一个观点，不要让人工智能完全代替人的决策，这是人工智能应用时必须注意的问题。”曾毅说。
高质量数据是AI应用大规模落地的重要支撑，构建一个完善而成熟的数据市场也十分重要。以色列民主研究所高级研究员特希拉·施瓦茨·阿尔特舒勒认为，应根据实际情况，建立符合自身需要的数据监管方案与路径。
与会嘉宾表示，AI时代已经到来，要坚持应用与治理平衡、创新与监管并重、全球化与本土化协同，防止数字鸿沟变成智能鸿沟，让AI真正成为推动社会进步的普惠力量。
本文围绕人工智能在全球的爆发式发展，结合博鳌亚洲论坛2025年年会的讨论内容，分析了人工智能带来的机遇与挑战。在机遇方面，AI加速赋能千行百业，给人们带来便利，企业也需积极应用。同时，也面临着就业冲击等挑战。在安全方面，存在AI幻觉、数据安全、深度伪造、伦理道德等风险，需要加固“安全护栏”。在治理方面，AI治理是全球性复杂问题，中国已发布相关文件，各方需共同协作，明确责任归属，建立数据监管方案，以实现应用与治理的平衡，让AI成为推动社会进步的力量。
原创文章，作者：Sebastian，如若转载，请注明出处：https://www.lingtongdata.com/6712.html
