今日热搜
文｜北京 王彦雨
刚于香港举办的世界互联网大会亚太峰会与香港国际创科展上，人工智能毫无悬念成为全场核心议题。来自数十个国家与地区的官员、学者、科技企业代表达成高度共识：AI必须由人主导、安全可控、向善而行——这不仅是会场共识，更是智能时代全球必须共同守护的核心准则。
人工智能作为引领新一轮科技革命与产业变革的战略性技术，具备极强的“头雁效应”，是驱动社会高质量发展的关键引擎。它一边以惊人速度迭代落地，深度改写产业、民生与社会治理格局；另一边也把演算法歧视、隐私泄露、深度伪造、产权模糊等一连串新问题摆在我们面前。当技术跑得比规则更快，如何让人工智能有序向善、真正造福社会，已经成为当下最重要的时代命题。
AI正以我们跟不上的速度迭代
2017年Transformer架构诞生，像是给人工智能按下了加速键。短短几年间，各类大模型密集落地，全球头部企业密集布局，技术快速走向商业化与大众化。和几年前相比，今天的人工智能已经呈现出四大清晰的变化趋势。
最直观的是算力需求爆炸式增长。整个行业已经进入算力密集化阶段，海量算力成为AI快速迭代的基础支撑。数据显示，2012年以来，全球顶尖AI模型训练所需算力每3.4个月就翻一番，增速远远超过经典的摩尔定律。2020年之后，前沿大语言模型训练算力以每年近5倍的速度扩张，训练成本年均上涨3.5倍，顶级模型的运行功耗甚至达到数十至数百兆瓦，对能源与基础设施都提出巨大挑战。
另一个行业焦点是模型越做越大。2018年前后，OpenAI的GPT-1、谷歌的BERT这类亿级参数模型已经算是重大突破；到2020年GPT-3直接跨过千亿参数门槛；2023年GPT-4迈入万亿参数时代；2026年初发布的国际主流模型参数量已经达到2万亿，国内最新发布的旗舰大模型也突破万亿级别。这场席卷全球的模型“军备竞赛”，本质上是智能能力的不断跃升。
应用层面也在快速进化，从单一文字走向多模态融合。现在的AI早已不只是打字聊天，而是能同时处理文本、图片、声音、视频，既能写文案、做翻译、编程序，也能理解数小时长视频、分析数百万字跨模态文档。从GPT-4V到Gemini系列，多模态能力已经成为标配，人工智能变得更“全能”，也更贴近真实生活与产业场景。
更值得关注的是，AI正在从“你问我答”走向自主行动。OpenClaw、ArkClaw、QClaw等一批智能体相继出现，它们不再局限于输出内容，还能自主完成一长串复杂任务。这种从被动交互到主动执行的转变，标志著人工智能进入全新发展阶段。
AI带来的改变渗透到每个角落
人工智能早已不是实验室里的前沿概念，它深度融入各行各业，推动整个社会从工业时代快步走向智能时代。随著“人工智能+”行动持续推进，AI与经济社会各领域深度融合，正在带来生产力的革命性提升。
在经济领域，AI最直接的价值就是推动产业升级。高盛曾预测，未来十年，生成式人工智能有望推动全球GDP提升7%，相当于约7万亿美元规模，同时让全球劳动生产率每年提高1.5个百分点。一方面，大模型、算力晶片、智能机器人等新兴产业快速壮大，智能经济初具规模；另一方面，AI持续改造传统产业，让汽车、物流等行业效率大幅提升，新旧经济之间的界限越来越模糊。
文化领域同样迎来全新可能。AI让文化创作、保护与体验方式全面升级。借助多模态生成、数字复活、沉浸式模拟等技术，AI可以自主创作绘画、音乐、影视等作品，也能让非物质文化遗产更好地活化传承。虚拟展馆、沉浸式演出、个性化推荐不断丰富大众精神生活，把文化体验拓展到更广阔的虚拟空间。
对普通人而言，最切身的感受是生活变得更便捷。医疗、教育、交通这些关键民生领域，都在被AI悄悄重塑。智能诊断、远端问诊、健康监测让医疗服务从“病后治疗”转向“全时健康预警”，也在一定程度上改善资源分配不均的问题；智能数字导师可以根据学生的学习节奏定制方案，推动优质教育资源普惠共享；智慧交通、智能调度让出行更高效、更安全，公共服务正从标准化慢慢转向定制化。
科研领域也迎来全新范式。AI与物理、合成生物学、化学、材料科学等基础学科深度结合，催生出AI4S这一科研新模式，大幅提升研究效率。过去需要科研人员长期筛选的数据、样本，现在靠智能演算法可以快速处理、挖掘规律。麻省理工学院就曾用深度学习工具，短短几天内就筛选出新型广谱抗生素，展现出AI加速科研突破的巨大潜力。
社会治理同样在升级。传统治理方式偏粗放、效率不高，部门之间还存在信息孤岛；而人工智能可以透过海量数据分析，即时监测社会运行态势、提前预警公共安全风险，智慧政务打破部门壁垒、精简办事流程，让治理更精细、更智能。
技术红利背后的风险不能视而不见
人工智能在全面赋能社会发展的同时，也带来一系列伦理、法律和社会问题。演算法不透明、数据被滥用、技术被误用，都可能直接侵蚀公众利益与社会秩序。
最常见的隐患是公平性受损。训练数据本身带有偏见，或是演算法逻辑存在缺陷，都可能让AI系统产生歧视。亚马逊早年推出的智能招聘系统，就曾出现明显的性别歧视，对女性履历刻意压低评分，最终项目被迫停止。一旦演算法歧视渗透到招聘、信贷、公共服务等场景，就会直接破坏社会公平正义。
随之而来的还有信任危机。当前主流AI系统普遍存在“黑箱”问题，决策过程不透明、逻辑难解释，普通人很难理解它为什么作出某个判断。加上系统本身可能出现误判，例如无人驾驶汽车因识别逻辑混乱引发事故，都会不断降低公众对AI的信任度。
隐私泄露更是高频风险。新一代生成式AI具备强大的数据抓取能力，在网络爬取信息、人机交互过程中，很容易收集到个人敏感信息甚至商业机密。三星员工就曾因使用AI工具导致内部机密多次外泄。在AI时代，个人隐私、企业数据面临更隐蔽、更难防范的威胁。
更值得警惕的是新型网络犯罪。深度伪造技术可以逼真伪造他人的声音和面孔，被不法分子用于电信诈骗、恶意勒索、造谣传播。语音伪造冒充高层转帐、虚假音视频扰乱公共舆论，相关案件数量快速上升，对社会诚信与公共安全构成直接冲击。
此外，知识产权争议也越来越突出。AI训练过程大量使用网络图文内容，多数并未获得原作者授权；而AI生成内容的版权归属、署名权至今仍模糊不清。AI还能被用来伪造科研数据、实验图像，引发学术不端，现有规则体系难以应对。
更远期但更致命的是生物安全隐患。AI与生物技术加速融合，可能被用于危险病原体的研究与开发，对公共卫生安全构成潜在威胁。相关研究报告已发出警示，人工智能可能加速产生危害人类生存的知识，这一风险绝不能忽视。
让AI在规范中向前发展
面对技术快速发展与风险交织的局面，全球都在加快构建人工智能治理体系。作为在智能时代承担重要责任的参与者，我们需要树立清晰的治理价值观，让AI在安全、有序的轨道上持续前行。
首先是坚持善治。人工智能的最终目标是增进人类福祉，一切研发和应用都要以人为本，守住伦理底线。坚决避免演算法偏见、数据滥用、隐私泄露等问题，统筹发展与安全、创新与规制，让技术始终服务于人，而不是伤害人。
其次是坚持法治。面对数据安全、产权纠纷、深度伪造滥用等新问题，必须依靠法律划出刚性红线。欧盟已经实施全球首部综合性人工智能法案，我国也将人工智能专项立法纳入国家立法计划。健全规则、明确责任边界，才能有效防范系统性风险。
第三是坚持发展。国际科技竞争日益激烈，不能因为担心风险就过度限制创新。要把握好“安全托底、创新优先”的平衡，不脱离实际空谈伦理，兼顾技术进步、经济增长和民生改善，给创新留出合理空间。
第四是坚持技治。很多AI带来的风险，最终也要靠技术来解决。发展可解释性AI，破解“黑箱”难题；推广隐私计算、数据加密，减少信息泄露；研发深度伪造检测工具，遏制新型犯罪。以技治技、以技防技，本身就是人工智能整体竞争力的重要部分。
第五是坚持敏捷治理。AI技术迭代太快、应用场景太广，传统滞后、一刀切的监管模式已经不再适用。需要建立灵活、快速响应的治理机制，针对不同领域、不同场景分类施策、动态调整，既有效管住风险，也不阻碍正常创新。
（作者系中国科学院自然科学史研究所副研究员）
查看更多
