跳到正文
The Decoder· Maximilian Schreiner·· 2 小时前

Helsing 发布军事目标推荐平台 Clarity,强调人工授权与责任留痕

Helsing built an AI system that prepares targets for weapons systems and says every decision will carry a human name

内容摘要

德国国防科技公司 Helsing 发布基于 AI 智能体的 Clarity 平台,可整合传感器、开源情报和报告,为人工审查生成目标建议并向武器系统打包数据。Helsing 称平台运行在客户自有基础设施上,每次向武器系统移交都须由人授权,并记录责任人姓名。文章同时援引伊朗、加沙及一次险些登上中国船只的事件,说明快速自动化、短暂人工复核和模型幻觉可能削弱监督机制。

详细说明

基于原文的中文整理

这是一套军事目标推荐平台

德国国防科技公司 Helsing 在柏林介绍了 Clarity,一套由大量专门 AI 智能体协同处理军事信息的软件平台。它汇集部队能够访问的传感器数据、开源情报、书面报告和现有系统资料,识别军事力量、设施与位置,再把有关对方资产的信息整理后交给人审查,并按相应武器系统的需要打包数据。

这些能力主要来自 Helsing 的发布说明。公司没有说明 Clarity 是否已由任何客户实际运行,因此此次发布不能等同于已经投入全面实战使用。

信息如何汇总并形成建议

Helsing 称,Clarity 的智能体借助共享的军事概念体系和证据库并行工作,并可调用分析工具。其训练材料包括真实行动数据、AI 生成的合成数据和模拟环境;公司还称平台从设计之初便围绕 AI 构建,而非在旧有架构上改造。

在系统接入方面,Clarity 遵循模块化开放系统方法和北约标准,并被设计为可连接不同制造商的执行设备。这里描述的是厂商宣称的架构与兼容能力,不代表所有设备都已完成实际部署验证。

人工授权和责任记录如何设计

按照 Helsing 的说法,Clarity 负责提出建议而不是自行决定打击:人负责选择目标,每次把信息移交给武器系统都必须获得人工授权。只有相互独立的信息来源结论一致,且评估达到高置信度时,系统才会推荐目标;每项决定还会记录责任人的姓名。

公司称平台运行在客户自己的基础设施上,模型和接口在欧洲开发,数据及行动由使用它的武装力量控制。这些属于平台设计和厂商承诺,不能单独证明实际使用中人工审查一定充分。

为何人工监督可能流于形式

文章用其他军事 AI 系统的报道说明,保留人工环节不等于审查必然充分。在伊朗战争的相关报道中,美军据称使用 Palantir Maven 与 Anthropic Claude 提出和排序大量目标、推荐弹药;军方人员同时警告,使用者可能形成“电脑说该这么做”的依赖心态。加沙相关调查则称,Lavender 一度把多达 3.7 万名巴勒斯坦人标记为潜在目标,对单个目标的人工复核往往仅约 20 秒,主要用于确认其是否为男性。

这些案例并非 Clarity 本身造成的结果,但说明在目标数量多、行动节奏快的情况下,设置人工确认步骤仍可能只产生短暂或机械化的复核。

汇总多种数据仍可能出错

文章还援引一宗据称发生于 2026 年春季的险情:据 CNN 报道,一个聊天机器人结合公开与机密数据后误认货物,在情报报告中声称一艘中国船只载有核武器项目部件。武装人员当时正准备登船,飞机也已升空,错误直到行动前不久才被发现。

报道还称,当时没有统一的 AI 生成信息核验标准,尤其是较年轻的分析人员会不加批判地信任这些工具。这个案例说明,把多个来源汇总起来并不能保证结果正确;人工监督是否有效,还与核验标准以及具体使用人员如何对待系统输出有关。

来源:The Decoder · the-decoder.com