Anthropic的“提前预警”安保:抗议监测的边界在哪里?
Anthropic
开发Claude的人工智能公司。
Samdesk
收集公开事件信息并发送风险提醒的公司。
OSINT
利用公开可见资料进行调查的方法。
发生了什么
2026年9月9日,《The American Prospect》报道,Anthropic(开发Claude的人工智能公司)正在扩大一套更主动的安保工作:在威胁变成事件前,先寻找可能的危险。报道引用了Anthropic安保人员的采访、与Samdesk有关的播客内容,以及一份近期招聘信息。文章把这称为“预测式监测”,还用了“犯罪前预测”的说法。这些词带有报道者的判断,不等于已经证实公司建成了监视所有人的系统。
报道依据与背景
报道主要列出三类材料。第一类来自Anthropic安保人员与Samdesk负责人参加的一次播客。Anthropic人员说,Samdesk曾在一场抗议活动提前开始前约60分钟发出提醒。公司于是改变一名高管的路线,让他从酒店的服务入口进入。
这个例子说明,Anthropic使用外部信息来避开一场抗议。但它没有证明公司识别了每一名抗议者,也没有证明公司把和平抗议者标成威胁。第二类材料是一份近期招聘信息。职位要调查全球威胁,范围包括地缘政治、恐怖主义、犯罪和“activism”,也包括使用OSINT研究公开资料。第三类材料是安保人员提出的方向:从事件发生后的反应,转向更主动、预测式和预防式的工作。材料说明了发展方向,却没有说明完整的技术设计、自动化程度或法律保护。
与Claude有关的报警事件
The San Francisco Standard另有报道,一名用户据称在Claude对话中写下买了枪、要伤害Anthropic首席执行官Dario Amodei的话。Anthropic向旧金山警方报告了这段对话,并封禁了账号。该男子后来对报纸说自己只是开玩笑,没有被逮捕或起诉。
警方报告称,Anthropic员工以公司规定为由,没有向警方展示实际对话。Anthropic的隐私政策允许公司把聊天中的暴力威胁报告给执法部门。真正困难的问题是:公司怎样区分真实威胁、玩笑和普通表达?《The American Prospect》还表示,Anthropic没有回应其采访请求。
为什么重要
这件事的重点在边界。公共抗议、网上发言和聊天内容,都可能被当成安全信号。判断错误,可能让合法抗议者或普通用户受到警方关注。忽略具体威胁,也可能让人处于危险之中。
Anthropic一直把自己描述成重视AI安全的公司。因此,报道还把这套安保工作与公司扩大国家安全业务、以及早先同美国国防部围绕国内监视和自主武器的争执联系起来。但这种背景只是说明前后关系,不能证明公司把所有抗议都当成犯罪。
这条消息在Hacker News获得282分和158条评论。这表示社区很关注它,不表示原报道一定正确。
仍然不知道什么
我们不知道Anthropic收集哪些资料、保存多久、谁能把一个人标为威胁,以及公司会向警方提供什么。Samdesk的提醒、内部安保工作和Claude的安全系统是否相互连接,也没有公开说明。“activism”究竟包括和平抗议、暴力行为,还是更窄的范围,同样没有得到确认。
接下来要看什么
接下来最重要的是Anthropic能否公开说明监测范围、判断规则、用户通知、申诉机会和独立监督。现在可以确认的结论较窄:Anthropic正在加强更主动的安保能力,但边界仍不清楚。现有材料还不能证明,一个自动系统已经在大规模管控活动人士。
Anthropic想提前发现危险,能看多远?
📰 完整报道: Anthropic的“提前预警”安保:抗议监测的边界在哪里?
一份报道把抗议活动、Claude聊天和公司安保联系在了一起。
Anthropic
开发Claude的人工智能公司。
Samdesk
收集事件消息并提醒别人的公司。
预测式监测
在坏事发生前寻找可能的危险。
💡 一句话总结
- Anthropic正在加强对威胁的提前预警。
- 抗议消息和Claude聊天内容都进入了讨论。
- 现有材料不能证明它在大规模监视活动人士。
Anthropic(开发Claude的人工智能公司)被《The American Prospect》报道。文章说,公司希望在危险发生前发现线索。文章把这种做法叫作“预测式监测”。这是报道者的说法,不是已经证实的完整系统。
一次例子和Samdesk有关。它是一家提供风险提醒的公司。一场抗议活动改变了开始时间。Samdesk提前约60分钟通知了Anthropic。于是,Anthropic改变了一名高管的路线,让他从酒店的服务入口进入。
这说明公司使用外部消息来保护人员。但它不说明公司逐个调查了抗议者。Anthropic的一份招聘信息还把“activism”列为调查对象之一。这个词可以指抗议活动。招聘信息没有说明,和平抗议是否会被当作危险。
另一份报道提到,一名Claude用户写了威胁性内容。Anthropic把事情报告给旧金山警方,并封禁了账号。那名用户说自己只是开玩笑。Anthropic员工没有把实际聊天展示给警方。因此,外界很难知道公司依据什么作出决定。
这件事重要,是因为安全和表达自由可能相互碰到。真正的威胁需要被认真处理。错误的判断也可能伤害普通人或抗议者。公司应该说明收集什么信息,谁来判断,以及判断错了怎样改正。
这条消息在Hacker News获得282分和158条评论。这代表很多人注意到了它,不代表报道一定正确。接下来要看Anthropic是否公开解释监测范围、用户通知、申诉机会和独立监督。
💬 这是普通安保,还是监控?
HN评论者意见分裂:有人认为Anthropic是在保护员工,有人认为它是在监控抗议者。
- 批评者担心,Anthropic和OpenAI一边宣传安全AI,一边让技术进入政府和监控领域。把它们比作Palantir,主要是一种警告或观点,并不是已证实的事实。
- 评论中介绍的一个例子是:Samdesk据称提前约60分钟通知Anthropic抗议活动发生变化,高管于是改走另一个入口。批评者认为这是使用公司外部的信息;支持者认为这是利用公开信息进行普通安保。
- 另一个案例中,Anthropic据称把针对CEO的严重威胁报告给警方,但没有交出用户的聊天记录。这个说法来自评论者,未经独立核实。
- 这些例子可能说明公司在处理威胁和安排安保,但不能单独证明Anthropic监控整个互联网或预测犯罪。监控范围仍不清楚。
- 评论者还争论Samdesk和Palantir是否是同类产品:有人认为前者做事件风险分析,后者提供使用客户数据的软件。更大的担忧是,安保工具会不会变成追踪活动人士的系统。
这是评论数为158时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。
AI公司想早点发现危险
📰 完整报道: Anthropic的“提前预警”安保:抗议监测的边界在哪里?
可是,看别人看到哪里,也要有规矩。
Anthropic
做Claude这个聊天小帮手的公司。
Claude
可以和人说话的电脑小帮手。
Samdesk
把危险消息告诉别人的公司。
Anthropic(做Claude的AI公司)想早点发现危险。 Claude是会聊天的电脑小帮手。
Samdesk是一家会发警报的公司。 它说,有一场抗议活动改了时间。 Anthropic就改了公司大人物的路线。 这说明公司想保护人。 这不等于它看见了每一个抗议的人。
另一次,有人在Claude里写了吓人的话。 Anthropic把事情告诉了警察。 那个人说,自己只是开玩笑。 公司没有把聊天给警察看。 所以,我们还不知道公司怎样作决定。
这个故事在Hacker News很受注意。 那里有282个点和158条留言。 这只说明很多人看见了它。 它不能证明故事一定是真的。 以后要看公司会不会说清楚规则。
💬 AI公司在看着大家吗?
人们读了同一篇文章,却担心不同的事情。
- 有人担心,AI会帮助有权力的人找到抗议活动,并躲开抗议者。也有人说,躲开危险只是普通的安全措施。
- 评论里提到过抗议活动提醒,也提到过把危险威胁告诉警察。这些只是评论中的说法,还没有在这里独立检查。
- 还不清楚这只是保护高管的小工具,还是会用来追踪很多人的大工具。
这是评论数为158时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。
💬 HN评论如何看待Anthropic的“预测性监控”
HN评论者对文章究竟证明了什么意见不一。评论讨论了一个利用外部数据保护高管的实际案例,但也有人认为,这不足以证明存在大规模预测性监控或“犯罪预防式”系统。
这是评论数为158时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。