美国国防部首席技术官埃米尔·迈克尔在华盛顿举行的国防工业会议上,公开回应了Anthropic工程师雅各布·考克森关于人工智能可能导致人类灭绝的警告。此次事件将焦点引向了AI发展带来的社会恐慌与实际监管博弈之间的张力。
埃米尔·迈克尔认为公众容易陷入“40% 的美国人将失业、AI 将摧毁人类”等悲观叙事,并指出这些担忧源于对数据中心和技术变革的恐惧。从这一角度看,高官的表态试图将过度的恐慌情绪,引导至对经济结构和产业升级周期的理解层面。
此前,雅各布·考克森曾警告OpenAI和Anthropic正在“直奔自我改进型超级智能,并拿我们的生命赌博”,同时提及未来可能出现能够攻破任何系统、在一夜之间改变整个行业并获取现实世界权力和资源的超人类系统。这些极端的预警构成了本次讨论的背景核心。
在AI技术应用层面,五角大楼与Anthropic存在分歧点。根据公开资料显示,Anthropic要求禁止美军将其模型用于对美国民众的大规模监控或完全自主致命武器,而这是五角大楼与Anthropic分歧的起点。此外,美国国防部此前曾要求Anthropic允许军方在不受额外限制的情况下使用AI工具,但Anthropic坚持为军事用途设置额外的安全保障。
围绕这些技术和安全标准的分歧,事件进一步升级至法律层面。双方谈判破裂后,美国政府直接将Anthropic列为供应链风险企业,并且五角大楼此前依据两部不同法律对Anthropic作出了两项独立的供应链风险认定。面对这一监管行动,Anthropic已分别在加利福尼亚州和华盛顿特区的联邦法院提起诉讼,要求撤销美国国防部相关的认定。
从司法程序的角度看,埃米尔·迈克尔指责Anthropic为诉讼“挑选法院”,并认为华盛顿特区巡回上诉法院更具国家安全审查属性。值得注意的是,加州北区联邦地区法院法官Rita Lin已于8月27日作出有利于Anthropic的裁决,但位于华盛顿的联邦上诉法院尚未作出判决。
从监管和技术治理的角度分析,埃米尔·迈克尔指出,AI带来的潜在危害并非只能依靠恐慌来应对。他强调,美国国防部首席技术官认为,AI带来的潜在危害可以通过市场机制、行业协作以及政府参与加以缓解,这代表了一种务实的风险管理路径。
回顾时间线来看,事件的演变是从雅各布·考克森发出关于“超级智能”的警告开始,随后在军事应用限制上与五角大楼产生分歧,最终导致了供应链风险认定和随后的法律诉讼。这构成了一个从技术预警到监管冲突再到司法博弈的完整链条。
读者可以关注美国国防部首席技术官埃米尔·迈克尔后续关于AI应用推广的表态,以及Anthropic在不同法院系统中的法律抗辩进展,以更全面地了解当前AI产业面临的技术伦理、国家安全和市场监管等多重压力下的发展格局。
信息来源
本文基于上述公开资料整理,未使用来源页面的图片、视频或嵌入媒体。