如何定义安全,这将带来一个全新的开始。
本月10日发布的Anthropic新一代旗舰模型Claude Fable 5和面向部分机构开放的Claude Mythos 5,仅3天就被美国政府以国家安全为由,发布出口管制指令,要求暂停任何外国国民访问Fable 5和Mythos 5,原因是担忧Fable5 的部分安全护栏可能被绕过,进而引发广泛的安全风险。
世大控股(08003)公布,预期该集团于截至2025年9月30日止6个月取得公司拥有人应占综合净溢利约3700万港元,去年同期公司拥有人应占综合净亏损约250万港元,主要归因于 2025年 9月30日完成出售附属公司。
11月21日,博雷顿在武汉工厂举办“无驾驶室纯电动矿卡下线仪式暨新车发布会”。此次发布会亮相了全球首款真正意义的无人驾驶专用矿卡,博雷顿9M145E,搭载公司自研E2E智驾系统,新车采用无驾驶室设计,下线即具备投产状态,代表无人驾驶进入从“可做”到“真正投入生产”的新阶段。
最新消息是,Anthropic高管本月16日已与白宫官员会谈,有说法称,美国商务部愿意寻找一种方式,只有Anthropic完全解决政府提出的担忧,才会让Fable 5重新面向消费者上线。
元股证券:ygzq.hk
Fable 5能否重新面世的一个核心,本质上是如何看待和定义安全隐患问题。显然,此时各方对安全的定义是不同的,Anthropic基于自身对安全的理解,认为政府对相关风险的描述被夸大,Fable 5的安全防护足以支持公开发布;但这必须严肃打消美国政府作为公共安全治理方的合理怀疑,即Anthropic公司需要基于美国政府对安全的定义解释Fable 5的安全防护是否足够,并说服美国政府。
当前AI技术的发展已到了日新月异的程度,AI的强大给人们带来意想不到的助益,同时也在制造意想不到的麻烦。作为人类有史以来最强的经济社会重塑重构工具,AI已成为一个升维工具,将打破现有经济社会结构的平衡,把各行各业现有系统深藏已久的漏洞暴露出来。这些漏洞将AI的工具理性、工具伦理和工具价值等最本质、最基础的东西暴露出来,即有人可以用强大的AI模型来修复漏洞,有人则可以用强大的AI模型来攻击漏洞,窃取公私信息,进而对现有经济社会秩序进行破坏。
Fable 5的出口管制禁令,更预示着AI以不可逆的方式进入物理世界。为此,若人们在银行系统的存款、在证券公司的权益资产等的安全防护体系漏洞被发现和利用,产权保护在强大的AI模型面前就变得相当脆弱,基于现代产权制度等搭建的现代经济社会秩序就会被系统性破坏,这显然不是Anthropic为Fable 5提供的安全防护是否充足可以负担和解释的,因为这本身已经是一个公共外部性和公共安全议题了。
配资网站一旦一个技术安全问题蜕变成一个公共安全和外部性议题,其带来的安全审查就可能超越了公司所能定义的范围,因此Fable 5的出口管制禁令传递出的一大确切的信号是,未来任何公司的先进AI模型发布,不仅需要公司内部的技术伦理审查,还可能不得不接受政府进行的公共外部性和公共安全议题的审查,以有效管控甚至避免AI自由发展带来的公共外部性问题等。
当然,AI安全的定义不是一个权力概念,而是一个发展概念,即它不是服从权力对安全框架的描述和表达,本质上是人们对自由的认知尺度问题。任何存在自由悖逆的AI安全定义,都将变成AI发展的桎梏,因为AI本质上是一场对信任的托付,AI提供独立交付实现功能,人们不再进行过程控制,任何基于特定信息如价值观的输入,一旦触发自由悖论,即一方的自由主张侵害另一方的合法权益,将容易导致AI的不自洽,进而影响AI发展。
因此,哪个国家能更具穿透力和通透性地定义并描述清楚AI安全框架,哪个国家就真正把握了AI发展权,该国的AI才能真正进入规范发展阶段。这次美国政府针对Fable 5的出口管制禁令,究竟是AI发展过程中的助推剂,还是绊脚石,开启的将是一个跨时代议题。这方面,欧盟、英国等对AI的过度监管,已是一个地道的反面教训“镜像”着各国政府如何正确地行使权力。
祸兮,福之所倚;福兮,祸之所伏。安全是一个规范发展的概念,安全防范的是自由悖逆,人类不可逆地进入了AI时代,AI对经济社会的重构重塑,首先冲击的就是人们对现有秩序的安全感。在技术变革带动的吐故纳新、新旧交替中,对AI安全全新的释义,就是找寻到最快的捷径,最小化创造性破坏带来的负担和成本,让重新释义的AI安全变成起承转合的连接密码,为AI的规范发展勾勒一个基于法经济学的经济社会成本最小化的演进路径。
举报 第一财经广告合作,请点击这里此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部:banquan@yicai.com 文章作者
一财评论员
相关阅读
盘前必读丨6G创新发展部省协同试点启动;央行将开展5000亿元买断式逆回购操作机构认为,目前市场更多受资金面影响,操作上谨慎追涨,控制仓位。
39391 06-05 07:56
芯片行业关键原材料再告急!俄罗斯收紧氦气出口,如何搅动市场?真正的考验在于能否撑过冲突结束后霍尔木兹海峡恢复运行的过渡期。
7 2544 04-17 12:29
对日本加严出口管制是维护国家安全和地区安全所必需|专家热评举措依法依规进行,是国际通行做法,是审慎评估的结果,更是维护国家安全和地区安全所必需。
92 02-25 20:04
商务部新闻发言人就对日相关出口管制措施答记者问对于未列入的日本实体,如涉及日本军事用户、军事用途,或者涉及有助于提升日本军事实力的其他最终用户用途,按照规定,禁止对其出口两用物项。
125 02-24 10:05
商务部:将20家日本实体列入关注名单商务部将对关注名单中实体的两用物项出口实施更严格的最终用户和最终用途审查基金收益,涉日本军事用户、军事用途,以及一切有助于提升日本军事实力的其他最终用户用途出口不予批准。
109 02-24 10:03 一财最热 点击关闭配资资费对比中心提示:本文来自互联网,不代表本网站观点。