中财所一财社论：科学释义AI安全，守护AI生态健康发展

搭建怎样的AI生态、避免AI失控，正在成为一项开放式议题。

最近AI领域精彩纷呈。公开呼吁放缓尖端技术开发节奏的Anthropic和OpenAI，22日相继发布新模型。同时，各大领先AI公司蜂拥进军个人智能体，继SpaceXAI推出Grok Bot后，Meta也推出了爆火的个人助手Muse，OpenAI据悉也在积极布局这一赛道；此外，阿里巴巴在云栖大会上火力全开，AI模型、AI芯片、AI云全栈布局，千问宣布将加速打造personal Agent。

国内外企业步调一致的行动，反映出AI正在全速驶入to C赛道。这将开启一个全新的经济社会版图，深刻改变每个人的初始配置，进而触动几乎所有人的禀赋效应，并带来越发明显的不安全感和焦虑感——既令人兴奋，又令人紧张。

期待与紧张，是人们面向未知世界的常态。正因如此，AI安全已成为一个面对现实、面向未来的重大考量。

目前人们对AI安全的担忧，大致可分为两个层面：

一是对AI可能失控的不安全感。这种不安全感，在全球顶级AI公司层面体现得更加突出，Anthropic、OpenAI、SpaceXAI等最近纷纷发声，甚至主动呼吁政府监管。而美国总统特朗普在联大讲话中明确表态，对AI只鼓励、不限制，反对通过国际协议管控AI。

二是对AI进入日常生活带来失序的不安全感。这是一种选择和取舍的安全焦虑。随着AI进入日常生活，尤其是个人智能体深入参与日常决策，人们赋予AI智能体的决策权限越来越多；但同时，现有法律体系和经济社会运行秩序，对AI智能体的法律身份认同、责权利关系认定等规范尚处于探索期，人们担心更多介入私域信息的AI会带来信息安全隐患，更多私域数据数字化和在线联网化会导致产权不清晰，尤其是数据资产在所有权上呈现剩余索取权、使用权、管理处置权、受益/收益权的可分离性特点。这些都需要现代法律体系和经济社会秩序及时与时俱进。

不同层次的AI安全，需要搭建不同的风险政策和风险缓释框架机制，避免张冠李戴，阻碍AI发展进程。

人们对AI能力失控产生的恐惧，本质是对未知领域的不确信，就和工业革命初期人们对蒸汽机和汽车的焦虑一样。面对这种恐惧，我们不能止步刹车，而是要坚定航向，在对失控的担忧中将AI驶向更远，进入全新的生态地带。

当前，人们面对的现实不安全感是，AI进入日常生活后，经济社会秩序面临重构。数据是AI技术变革的原料，数据资产产权结构，将直接建构AI时代最基础的信息结构、信用信任机制、组织形态、激励约束兼容机制、沟通机制以及决策结构等。其产权清晰度，决定着AI时代最底层的生态秩序和经济社会运行成本，也决定着人们将进入怎样的AI时代。

这些都直接关系到AI时代的建构性配置问题。比如，个人+智能体的行为组合，一旦发生权益纠纷，怎么认定各主体责任？个人资产和私属信息数据化带来的剩余索取权、使用权、处置权、收益/受益权等功能分离，怎样认定不同功能拥有者的责权利关系？AI时代如何保障个人财产安全？数据存储如何实现不可篡改？个体私域的边界如何进行有效设定？这些问题在AI时代都需要重新审视。

对于这些从产权结构中分拆出来的功能性权利，要从法律上保障其确指性、唯一性和排他性，进而搭建起经济社会成本最小化和边际可量化的信息结构、沟通渠道、授权机制和决策体系。只有有效理顺各方权属关系，才能让有权就有责、有责必追究的良性秩序移入AI时代社会生态，才能真正给人们带来安全感。

安全感本质上是一种边际感，曾经清晰的边界一旦变得模糊，安全就会失去规范的解释框架，就会让人心生焦虑。科学释义AI安全，不能单纯理解为AI定规立矩，而是要树立知人者智、自知者明的行为准则，承认边际不是给定性条件，而是不断探寻求解的答案。尤其是在方兴未艾的AI时代，没有人知道分割数据产权结构的初始边际标尺，这需要不同主体通过贴身博弈，让每一项合法权益得到足够保护，边际才能逐渐清晰。政府需要做的，是守护好经济社会秩序的正义，平等保护各参与主体的合法权益。这是科学释义AI安全、守护AI生态健康发展的必由之路。

举报第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者