网络安全初创公司Cathedral成功侵入美国领先人工智能企业之一Anthropic的敏感系统。随着全球人工智能竞赛日益激烈，这一事件进一步加剧了外界对AI行业安全风险的担忧。
据Cathedral报告草稿，这家成立仅数月的网络安全初创公司最近向Claude聊天机器人开发商Anthropic通报，其研究人员成功侵入了Anthropic的敏感内部数据和通信系统。
Cathedral由美国政府效率部（DOGE）前成员创立，为美国政府及企业客户提供人工智能驱动的网络安全工具。根据报告，其研究人员利用Anthropic及其他众多企业用于行政管理和销售工作的商业软件漏洞，成功进入Anthropic的内部系统。
Cathedral的报告称，研究人员仅运行AI智能体不到12小时，就找到了访问Anthropic内部数据的途径，包括会议记录、员工薪资和录用待遇详情，以及讨论公司先进AI模型的Slack消息。此次测试是在Anthropic的一项安全测试计划下进行的，该计划邀请外部网络安全专家测试其系统。
在全球人工智能竞赛日益激烈之际，Cathedral成功侵入领先AI企业的敏感系统，进一步加剧了外界的担忧。
Anthropic在声明中证实，Cathedral研究人员确实获得了其部分销售、人力资源和IT系统的访问权限，但强调受影响的系统范围有限。该公司表示，已经封堵了研究人员发现的入侵路径，并向联邦政府官员通报了此次事件。
Anthropic发言人称，Cathedral花费数天时间尝试直接入侵其软件系统，在未能得手后，才转向第三方商业工具。
Cathedral的新报告，以及近期美国AI企业发生的其他安全事件，凸显了人工智能安全问题的重要性正在不断上升。美国政府及其对手正围绕这项被视为维持或挑战美国全球实力的关键技术展开竞争。
一名特朗普政府高级官员因涉及内部事务而要求匿名。他表示，Cathedral有关侵入Anthropic内部系统的报告已在政府内部传阅，并引发了担忧。
他补充称，自己对研究人员如此迅速地进入一家掌握着“几乎堪比核武器级别材料”的公司敏感系统感到震惊。
本月早些时候，美国联邦调查局（FBI）逮捕了一名ChatGPT开发商OpenAI的员工，指控其涉嫌在高管会议室安装录音设备。
上个月，曾借助Anthropic的Claude聊天机器人入侵OpenAI的黑客警告称，面对自身技术能力带来的安全风险，人工智能行业尚未做好准备。
今年早些时候，Anthropic与特朗普政府发生冲突。由于Anthropic拒绝允许其技术用于自主武器或国内大规模监控，美国国防部随后禁止在联邦政府系统中使用该公司的技术。
上述政府官员表示，最近已有三个联邦机构与Cathedral签订了网络安全服务合同。
Cathedral是DOGE前员工离职后创办的一批公司之一，这些公司试图在私营部门和政府合同市场寻找商业机会。目前，投资者对Cathedral的估值已达到14亿美元。
一名接近Cathedral的人士表示，该公司研究人员尝试进入Anthropic系统，目的是揭示美国领先AI开发商面临的安全挑战。由于调查结果涉及敏感信息，此人要求匿名。
根据报告，Cathedral本月早些时候通过Anthropic的网络安全测试计划向其披露了研究结果。该计划会向发现并报告漏洞的安全研究人员提供奖励。
报告还称，Cathedral已通知其所利用的商业软件供应商，但出于安全原因，未披露这些公司的身份。
AI编程初创公司Cognition首席信息安全官亚历克斯·斯塔莫斯（Alex Stamos）在应《华盛顿邮报》要求审阅Cathedral的调查结果后表示：“他们这次发现了一个大问题。”
不过，斯塔莫斯补充称，将第三方应用程序接入企业系统所带来的风险，“对所有人来说都是一个极其严重的问题”。
斯塔莫斯曾担任斯坦福大学网络政策中心下属斯坦福互联网观察站主任。
他认为，Cathedral的发现暴露了Anthropic在管理外部软件供应商方面存在的漏洞。
他说：“这是一个非常棘手的问题，但Anthropic本可以做得好得多。”
（Cognition使用Anthropic及其他AI公司的模型。）
Cathedral的一名女发言人拒绝置评。
Anthropic发言人在声明中表示，Cathedral研究人员访问的系统包含部分客户和合作伙伴的商业联系信息，以及一些基本用户账户记录。
但研究人员未能访问客户发送给Anthropic AI模型的消息、模型生成的回复，也未能获得AI系统的底层代码或模型权重。
声明称：“我们的监控系统在Cathedral向我们报告之前，就已标记出他们的部分活动，我们也在当天切断了他们的访问权限。”
“此外，我们没有证据表明，除Cathedral之外还有其他任何人利用了这些漏洞。”
Anthropic表示，公司已经停用了涉事商业软件，直到供应商确认漏洞得到修复后，才重新启用。
在Cathedral撰写的报告中，研究人员指出，他们的发现“揭示了当前新兴的攻击能力，与保护美国部分最脆弱技术资产的防御措施之间存在严重差距”。
这份报告是Cathedral准备发布的博客文章的早期草稿。
报告称：“普通企业软件中的漏洞竟然能够危及最先进机构的基础设施，这一事实应当为美国每一家企业敲响警钟。”
不过，Anthropic在声明中表示，Cathedral夸大了其调查结果“所暗示的国家安全影响”。
Anthropic还指出，Cathedral未能完整披露其在公司系统内部开展的所有活动，因此没有完全遵守其漏洞悬赏计划的规则。
Cathedral则在报告中表示：“按照安全研究最佳实践，我们将数据访问量控制在绝对最低限度。”
上个月，Anthropic员工雅各布·考克森（Jacob Coxon）公开宣布辞职，理由是他担心公司在处理危险的AI技术时采取了不负责任的做法，其中包括依赖传统商业软件。
考克森在社交平台上发文，指责Anthropic正在进行“一场傲慢自大的豪赌，而这种豪赌不应该从一家私营公司的Slack聊天系统中发起”。
他所指的Slack，是Anthropic及众多其他科技公司使用的企业通信工具。
Cathedral联合创始人加文·克利格（Gavin Kliger）曾在DOGE任职，之后担任美国国防部首席数据官。
一名接近Cathedral的人士透露，克利格在五角大楼任职期间，曾参与官员之间的情景推演，讨论如果外国获得硅谷前沿AI实验室的研究成果，可能会发生什么。
根据数据公司PitchBook的信息，Cathedral已从投资者处筹集1.6亿美元资金。
曾支持特朗普总统及DOGE的知名投资人马克·安德森（Marc Andreessen）和肖恩·马奎尔（Shaun Maguire），目前均担任Cathedral董事。
上述特朗普政府官员表示，特朗普政府目前正在与Cathedral合作，推演与人工智能有关的敌对威胁情景。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：李安桐
益通网提示：文章来自网络，不代表本站观点。
