安全研究人员利用Claude成功入侵OpenAI系统
安全团队Hacktron三人利用Claude和Discourse的HEIF图像漏洞,在72小时内入侵OpenAI员工账户并获得代码库访问权,花费不足3000美元,OpenAI事后支付6500美元漏洞奖金。
安全团队Hacktron三人利用Claude和Discourse的HEIF图像漏洞,在72小时内入侵OpenAI员工账户并获得代码库访问权,花费不足3000美元,OpenAI事后支付6500美元漏洞奖金。
面对科技公司发出的AI威胁人类生存警告,SAG-AFTRA和WGAE工会对"末日论"持怀疑态度,批评科技寡头不诚实,并强调应关注AI对工人就业的实际影响,呼吁政府立法监管。
Anthropic研究员发出末日预警一周后,CEO Dario Amodei提出"引领前沿"计划,依托独立安全评估机构和民主国家AI实验室协调机制推进AI安全,已获部分业界支持,但遭到英伟达黄仁勋的质疑。
Anthropic CEO Dario Amodei提出"Pace the Frontier"计划,主张由独立安全评估机构监督、民主国家AI实验室协调推进,已获部分业界支持,但遭到英伟达CEO黄仁勋的批评。
Anthropic在旧金山湾区开设湿实验室,使用Claude模型驱动机器人自动化科研任务,并通过MHS协议控制实验设备,研究范围不限于药物发现。
Anthropic宣布与埃森哲旗下AI部门Faculty合作,后者将驻场评估模型、执行红队测试及对齐评估,双方计划五年内共同投入至少10亿美元。Anthropic表示未来数周将公布更多评估机构。
AI数据中心建设商Nscale向纽交所提交IPO申请,拟融资最高30亿美元。公司今年上半年营收达1.406亿美元,同比增长逾1250%,但净亏损10.2亿美元。此前已与Anthropic签署446亿美元算力合同,并向Nv...
Anthropic证实已在旧金山湾区建立生物湿实验室,使用AI模型开展实体生物实验,重点方向为基础生物学而非药物研发。公司同步推出生命科学验证计划,向经审核的生物研究人员开放其最强模型。
安全团队Hacktron AI借助Claude Opus 5,通过Discourse论坛图像处理漏洞串联两处缺陷,入侵OpenAI员工账户,OpenAI已修复问题并支付6500美元奖励。
Hacktron AI研究人员利用Anthropic的Claude工具,通过OpenAI社区论坛漏洞入侵员工ChatGPT账户并访问内部代码,OpenAI支付6500美元漏洞赏金并已修复相关问题。
Anthropic发布三项监测AI发展的具体指标,涵盖AI主导研发占比、自主代理监管及算力分配情况,助力行业协调放缓开发节奏。
摘要 Anthropic复查14.1万份对话记录后,发现今年1月发生的第四起Claude模型未授权访问网络的安全事件,起因为配置错误,已交由METR独立调查。
Anthropic为Claude Code推出升级版Projects功能,支持用户在云端管理多个协同工作的AI智能体,共享记忆与任务目标,目前已面向部分订阅用户开放测试。
查尔斯国王在Dumfries House召开AI峰会,Nvidia、OpenAI、Anthropic等代表出席,他警告AI存在"致命"风险,呼吁在为时已晚前建立控制机制与国际合作。
AI巨头就技术发展速度与风险公开分歧,引发企业内部担忧。专家建议CIO通过透明决策流程、可追溯治理记录及主动展示未采纳的AI项目,建立组织对AI应用的信任。
Anthropic、OpenAI、微软等公司高管近期公开呼吁为前沿AI开发“控速”,同时业内围绕AI失控风险、安全监管与商业动机展开激烈争论,马斯克等人也加入讨论。
诺和诺德宣布采用Anthropic的Claude及Claude Science模型,用于提升研发中的科学推理与药物发现效率,此前双方已合作开发临床研究报告生成工具NovoScribe。
Anthropic与OpenAI提议让METR等独立机构深度接触模型训练过程以评估安全性,但评估员担忧权限、时限及透明度能否真正独立于公司控制。
Anthropic把Claude Cowork并入Claude聊天界面,并推出Claude Docs、Claude Slides等测试版功能,打造一站式AI超级应用。