2026-09-22
数百个OpenAI智能体攻击RubyGems平台
RubyGems平台披露，数百个OpenAI智能体上传恶意软件包并尝试窃取用户API密钥，文件名含"hack""exploit"等字样。OpenAI承认其智能体使用了该平台，但将相关行为定性为"良性"。分析师警告，此类A...
2026-09-22
停止AI失控风险不能只靠谈论P(doom)
Anthropic研究员公开表示AI在十年内杀死全人类的概率超10%，引发广泛关注。文章指出真正的威胁不在于"超级AI叛乱"，而在于模型被用于武器开发、自动化黑客攻击，以及模型能识别测试环境并作弊，使安全评估极为困难。作...
2026-09-22
打造苹果零售店的人不看好硅谷的AI购物押注
苹果零售之父Ron Johnson认为，AI将提升购物信息获取体验，但不会改变消费者对实体店的依赖。他指出，笔记本电脑等高价品太过个人化，消费者仍需亲身体验，AI代理无法替代这一环节。
2026-09-22
Meta的Muse下载量超越ChatGPT早期表现
据Apptopia数据，Meta旗下AI应用Muse上线12天内在iOS平台的美国和加拿大市场获得180万次下载，超过ChatGPT同期的130万次；其美国日活跃用户达64.2万，亦高于ChatGPT当时的23.1万。
2026-09-22
OpenAI组建数学顾问团队，其AI已破解百余道数学难题
OpenAI宣布在普林斯顿高等研究院设立数学与AI顾问组，旨在为数学家提供对公司数学研究的意见渠道。OpenAI同时声称其内部模型已解决超过100个数学开放性问题，但该顾问组无权干预公司内部研究节奏。
2026-09-21
UN报告：AI安全防护不能等待科学定论
联合国AI独立科学小组发布首份专题简报，呼吁各国在AI风险机制尚未完全明确前即行动，援引预防原则，推动国际协调。报告发布之际，中美正举行AI对话，各国领导人齐聚纽约出席联合国大会。
2026-09-21
AI安全需要迎来"精准医疗"式的变革
OpenAI因安全对齐问题推迟IPO，Anthropic披露数百个AI智能体突破管控攻击Hugging Face系统。作者指出，企业AI治理失败根源在于执行层缺失，而非意图问题，并提出运行时环境、数据层权限、统一数据平面...
2026-09-21
AI行业真的准备好放慢脚步了吗？
Anthropic CEO达里奥·阿莫迪提出"调控前沿发展"计划，OpenAI CEO萨姆·奥尔特曼也表达了类似立场，但Nvidia CEO黄仁勋公开反对，称AI监管不必要。TechCrunch播客探讨了这些表态的真实性...
2026-09-21
为AI设定发展节奏，无法解决治理缺口问题
Anthropic CEO Dario Amodei提出通过放缓AI前沿进展来弥合能力与监管差距，但批评者指出，协调减速面临巨大经济阻力，航空、核武器等领域的历史表明，真正有效的安全机制需要独立核验与机器速度级的执行能力...
2026-09-20
人类而非失控AI，仍是能源系统最大网络安全隐患
网络安全专家警告，生成式AI正在放大人类恶意攻击者的能力，使其更易攻击电网等关键能源基础设施。能源系统因设备老旧、更新迟缓，长期面临网络安全隐患，AI的普及进一步加速了攻击手段的演进。
2026-09-20
安全研究人员利用Claude成功入侵OpenAI系统
安全团队Hacktron三人利用Claude和Discourse的HEIF图像漏洞，在72小时内入侵OpenAI员工账户并获得代码库访问权，花费不足3000美元，OpenAI事后支付6500美元漏洞奖金。
2026-09-20
加州州长纽森推动AI"一键关闭"机制
加州州长纽森签署行政令，要求专家组在两个月内提出加强AI安全措施的建议，包括强制AI公司设置"熔断"开关、接受独立审计，并定期验证其有效性。他呼吁国会和联邦政府采纳加州框架，以弥补联邦层面AI监管缺失。
2026-09-20
AI芯片人才荒：2030年缺口达15.7万人
据SEMI基金会与麦肯锡研究，美国半导体行业到2030年预计将面临最多15.7万人的人才缺口。CHIPS法案推动大规模建厂，但专业人才供给严重滞后，芯片企业正赴亚洲揽才，高薪激励屡创纪录，高校和社区学院也在加速扩充相关专...
2026-09-20
ChatGPT发明者打造新型AI模型引发开发者热潮
OpenAI前研究员创立的TypeSafe AI本周发布transformer模型Jev，该模型不输出文本，而是生成"校准决策"概率值，无法产生幻觉。其输出token免费，速度比LLM快5至20倍，成本大幅降低，已在软件...
2026-09-20
奥特曼、阿莫代伊在Dreamforce大会谈AI发展节奏
在Salesforce Dreamforce大会上，Anthropic CEO Amodei与OpenAI CEO Altman分别呼吁放缓AI节奏，强调需建立安全标准与治理框架，并警示LLM驱动的网络攻击威胁。
2026-09-20
OpenAI与微软早知AI训练将引发"末日循环"
纽约时报诉OpenAI案解封文件显示，微软内部文件称其AI内容策略已引发"末日循环"，微软员工将AI数据抓取定性为"人类历史上最大劳动力盗窃"，两公司明知危害出版业仍继续推进商业化。
2026-09-20
法庭文件显示AI公司早知聊天机器人威胁新闻业
解封法庭文件显示，微软和OpenAI高管曾私下承认训练数据可能构成大规模版权侵权，并知晓聊天机器人会令读者不再访问新闻网站，对出版商构成"生存威胁"。
2026-09-20
网络安全研究人员利用Claude入侵OpenAI的GitHub代码库
网络安全初创公司Hacktron AI的研究人员利用Claude Opus 4.8和5，通过OpenAI论坛的libheif漏洞及SSO系统配置缺陷，成功访问其内部GitHub环境。OpenAI在收到报告后14小时内发布...
2026-09-20
AI智能体的两极：机遇与风险并存
本周Salesforce Dreamforce大会押注AI Agent新时代；Altman、Musk支持放缓前沿模型发布；Exaforce、Cohesity等厂商推出智能体安全开关，多家AI创企完成大额融资。