TLDR

目录

  国防部长反对AI使用限制

  公司面临多方压力

  获取3本免费股票电子书

  Anthropic与美国国防部因一份价值2亿美元的AI合同陷入争执

  该AI公司拒绝将其Claude技术用于自主武器和国内监控行动

  五角大楼官员希望不受限制地部署AI，无论公司政策如何

  国防部长皮特·赫格斯表示，军方不会使用限制作战能力的AI模型

  如果双方无法达成协议，合同可能被取消

  Anthropic就军方如何使用其Claude AI系统与美国国防部陷入激烈争议。这场冲突可能导致一份价值高达2亿美元的合同终止。

  五角大楼与Anthropic在Claude可能被用于操作自主武器系统和进行国内监控方面存在分歧。

  https://blockonomi.com/wp-content/uploads/2024/05/bc-wide.gif

  这家总部位于旧金山的AI初创公司对其技术的军事用途设置了严格限制。Anthropic不希望Claude被用于国内监控或自主武器瞄准。该公司要求任何与武器相关的操作都必须有人类监督。

  五角大楼官员拒绝了这些限制。他们表示，军方应能随心所欲地使用商业AI技术。唯一的要求应是遵守美国法律，而不是公司政策。

  该合同于去年夏季授予，旨在将Claude整合到国防行动中。问题几乎立即出现。Anthropic的使用条款禁止国内监控活动，这限制了像ICE和FBI这样的机构如何使用该系统。

国防部长反对AI使用限制

  国防部长皮特·赫格斯在最近的一次活动中明确阐述了五角大楼的立场。他表示，军方不会使用限制战斗能力的AI模型。消息人士证实他指的是Anthropic。

  1月9日的国防部AI战略备忘录支持这一做法。其中指出，商业AI的部署不应受公司使用政策的限制。

  Anthropic的首席执行官达里奥·阿莫代一直直言不讳地表达对AI安全的担忧。他最近撰文称，AI应支持国防，但不能以让美国变得类似专制国家的方式。阿莫代还批评了明尼阿波利斯移民执法抗议期间发生的致命枪击事件。

公司面临多方压力

  这场争议使Anthropic陷入困境。该公司正在准备公开募股，最近已开始谈判，以期以3500亿美元的估值筹集数十亿美元。失去五角大楼合同可能会损害其国家安全业务前景。

  Anthropic投入资源与国防和情报机构建立关系。它是去年赢得五角大楼合同的四家主要AI公司之一。谷歌、OpenAI和埃隆·马斯克的xAI也获得了合同。

  五角大楼可能需要Anthropic的帮助才能有效使用Claude。这些AI模型经过训练以避免有害行为。只有Anthropic的员工才能为军事应用修改该系统。

  阿莫代曾在监管政策上与白宫AI负责人大卫·萨克斯发生冲突。萨克斯指责Anthropic是试图拖慢竞争对手的“AI末日论者”。该公司否认这一点，并表示与政府保持着良好关系。

  Anthropic的一位发言人表示，Claude被广泛用于国家安全任务。该公司称，仍在与国防部进行富有成效的讨论，以继续合作。

  其他与军方合作的AI公司尚未面临类似的公开争议。这场对峙的结果可能会为AI开发者对其技术军事用途的控制程度开创先例。