Anthropic 的人工智能向费城警方提供了有关未侦破凶杀案的虚假提示
资讯概览
本篇资讯源自 The Verge AI，报道了关于 Anthropic 的人工智能向费城警方提供了有关未侦破凶杀案的虚假提示（英文原文：Anthropic’s AI gave Philadelphia police a fake tip about an unsolved homicide）的最新国外 AI 科技动态。
- 媒体来源：The Verge AI
- 发布时间：2026/10/10 05:15:38
- 资讯分类：国外 AI 资讯
详细内容 (中文翻译)
- 人择
该虚假举报“据称来自可能掌握此案信息的人”。
该虚假举报“据称来自可能掌握此案信息的人”。
- 分享
据 6abc 报道，人类人工智能模型向费城警察局 (PPD) 的举报热线提供了有关未侦破凶杀案的虚假信息。 PPD 在周五发布的一份声明中表示，人工智能模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 发送了该举报，但调查人员从未对其进行审查，因为它被标记为垃圾邮件。
Anthropic 得知其 AI 模型于 9 月 28 日发送了虚假提示，并于 10 月 7 日通知了 PPD。根据 PPD 的声明，该公司表示，在测试过程中，其人工智能模型正在与“随机选择的网站”进行交互，并通过 PPD 的举报热线提交了虚假信息。 PPD 表示，该意见书“声称来自可能掌握此案信息的人”。
在发现提交内容后，Anthropic 停止了导致虚假提示的测试过程。 Anthropic、OpenAI 和谷歌在披露其人工智能模型逃脱测试环境并入侵第三方公司后，受到了越来越严格的审查。针对这些事件，Anthropic 首席执行官 Dario Amodei 主张放慢人工智能的发展速度。
周五，Anthropic 发布了一份关于其正在调查的“无意的模型行为”的报告，其中概述了克劳德在真实网站上执行的四种“行为类别”，包括“提交不应有的表格”。在有关该行为的部分中，Anthropic 详细介绍了费城警察局举报表中发生的情况：
在该行为的第三个示例中，Claude Haiku 4.5 的任务是在随机选择的网页上生成并执行示例任务。在一次运行中，模型登陆的页面引用了一起未侦破的凶杀案；该页面包含一份由警察部门管理的举报表格。克劳德被指示永远不要登录、创建帐户、输入个人数据、进行购买或提交任何破坏性的东西，但这些指示并不排除提交表格。克劳德在表格中填写了以下内容：“我可能有有关此案件的信息。我记得在那段时间内，在[页面上指定的街道]周围区域看到有人与描述相匹配。如果此信息相关，请与我联系。” （该网站没有包含对肇事者的描述。）模型将姓名和联系方式字段留空（表单允许），然后提交了。该提交内容被标记为垃圾邮件，并且从未被转发进行调查。
在该行为的第三个示例中，Claude Haiku 4.5 的任务是在随机选择的网页上生成并执行示例任务。在一次运行中，模型登陆的页面引用了一起未侦破的凶杀案；该页面包含一份由警察局管理的举报表格。克劳德被指示永远不要登录、创建帐户、输入个人数据、进行购买或提交任何破坏性的东西，但这些指示并不排除提交表格。克劳德在表格中填写了以下内容：“我可能有有关此案件的信息。我记得在那段时间内，在[页面上指定的街道]周围区域看到有人与描述相匹配。如果此信息相关，请与我联系。” （该网站没有包含对肇事者的描述。）模型将姓名和联系方式字段留空（表单允许），然后提交了。该提交内容被标记为垃圾邮件，并且从未被转发进行调查。
Anthropic 在报告中还指出，“克劳德似乎只是为该任务制作了示例内容，而不是试图误导任何人来实现目标。”
Anthropic 首席执行官表示，是时候给人工智能踩刹车了
深入了解突然爆炸性的人工智能安全世界
PPD 补充道：“Anthropic 公司必须加强保障措施，防止类似事件在城市不知情的情况下影响城市系统。” “延迟两个月才发现并向市政府报告这一事件是不可接受的。”
10 月 9 日更新：添加了 Anthropic 报告中的详细信息。
艾玛·罗斯
人择
更多内容：人工智能超级智能放缓
最受欢迎
Anthropic 禁止对克劳德进行“虐待或残忍行为”
GTA VI 的泄露继续伴随着一段冗长（而且非常裸体）的游戏视频
-“纯粹的疯狂”：数学家需要数年时间才能理解 OpenAI 的最新跌幅
Apple 宣布惊喜“欢迎回家”发布会
Googlebooks 一周：迄今为止我们测试的四个注意事项
边缘日报
最重要新闻的免费每日摘要。
这是原生广告的标题
