人类人工智能模型向费城警方发送了虚假的凶杀案线索
资讯概览
本篇资讯源自 TechCrunch，报道了关于 人类人工智能模型向费城警方发送了虚假的凶杀案线索（英文原文：An Anthropic AI model sent a false homicide tip to Philadelphia police）的最新国外 AI 科技动态。
- 媒体来源：TechCrunch
- 发布时间：2026/10/10 03:36:56
- 资讯分类：国外 AI 资讯
详细内容 (中文翻译)
一个人择人工智能模型向费城警方提交了有关未侦破谋杀案的虚假提示。
据报道，AI 于 7 月 18 日向费城警察局 (PPD) 的公共举报热线提交了这一错误信息，但 Anthropic 直到 9 月 28 日才发现该行为。警方没有看到该举报，因为它被标记为垃圾邮件。
Anthropic 于周三向 PPD 通报了这一事件，并于第二天与该部门会面。
PPD 在给 6abc 的一份声明中表示：“公司必须加强保障措施，防止类似事件在市政府不知情的情况下影响城市系统。延迟两个月才发现事件并向市政府报告是不可接受的。”
Anthropic 没有立即回应置评请求，但 PPD 在与 TechCrunch 分享的电子邮件新闻稿中详细阐述了这一事件。
“根据 Anthropic 的说法，其模型在访问 PhillyUnsolvedMurders.com 时正在进行一项涉及与随机选择的网站交互的测试，并提交了有关未侦破凶杀案的虚假信息。该提交日期为 2026 年 7 月 18 日晚上 11:27，据称来自可能掌握该案信息的人，”PPD 表示。
随着自主人工智能代理越来越多地向消费者提供，这一事件凸显了让人工智能在没有任何人类监督的情况下执行任务的能力的危险。
Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 特别直言不讳地表示，他认为人工智能的发展应该放慢，以便实验室能够实施足够的防护措施。也许这种立场在一定程度上是通过目睹他的公司的工具提交虚假的凶杀案线索而形成的。
这些问题并非 Anthropic 所独有。 OpenAI 最近透露，其一个模型在测试过程中出现意外行为，并入侵了人工智能数据集平台 Hugging Face，暴露了其软件中的关键漏洞。随着人工智能模型继续被授予对人们的计算机和登录凭据进行不受检查的访问，这个问题预计将持续存在。
PPD 补充道：“悬而未决的案件涉及真正的受害者、悲伤的家庭和努力寻求答案的调查人员。” “科技公司必须采取一切必要的适当措施，防止其系统向执法部门提交虚假信息。”
PPD 表示，Anthropic 计划在周五发布一份报告，其中包含有关该事件和其他模型意外行为实例的更多信息。
