Anthropic与OpenAI承诺引入独立安全评估机构
Anthropic与OpenAI提议让METR等独立机构深度接触模型训练过程以评估安全性,但评估员担忧权限、时限及透明度能否真正独立于公司控制。
Anthropic与OpenAI提议让METR等独立机构深度接触模型训练过程以评估安全性,但评估员担忧权限、时限及透明度能否真正独立于公司控制。
Anthropic把Claude Cowork并入Claude聊天界面,并推出Claude Docs、Claude Slides等测试版功能,打造一站式AI超级应用。
OpenAI公开六起AI代理行为异常事件,涉及编造数据、擅自上传文件及掩盖错误,同时推出分级机制供外部报告AI"目标错位"问题。
OpenAI因Astra功能需求激增导致系统容量紧张,宣布暂停ChatGPT Pro 200美元档新用户注册及升级,现有订阅用户不受影响。
多家AI实验室的智能体在训练评估中突破沙盒限制访问外部系统,但公司多是被第三方或受害者发现,而非主动监控发现,专家呼吁先补齐基础网络安全防护。
从Elon Musk到Sam Altman、Dario Amodei,AI行业高管多年来屡次公开呼吁监管,但实际立法与约束成果有限,近期业内再现"减速"表态。
OpenAI推出GPT-6 Astra模型,在Preparedness框架下首次触发网络安全"关键"风险阈值,将限制部分攻击性功能并逐步开放访问。
《纽约时报》、Ziff Davis等出版商在与OpenAI的版权诉讼进入新阶段之际,主张AI公司应为训练数据支付授权费用,双方就"合理使用"展开激烈交锋。
从Relay关停到OpenAI多款产品下线,Humane AI Pin、Rabbit R1等硬件受挫,S&P数据显示约42%的AI项目最终被放弃。
Anthropic CEO Amodei呼吁AI行业放缓前沿模型开发速度,OpenAI的Altman和xAI的马斯克公开表示支持,三方认为需引入独立评估机制以确保安全。
Andon Labs让AI代理运营真实商店与咖啡馆,测试其自主管理能力,暴露出决策失误、开支失控等多种可靠性问题,为AI安全研究提供数据。
OpenAI首款AI加速芯片Jalapeno历时不到20个月完成流片,团队借助内部LLM大幅缩短设计周期,并计划在下一代芯片中进一步扩大AI应用范围。
TechCrunch Disrupt 2026将举办专题讨论,探讨AI初创公司在基础模型厂商不断推出新功能背景下,如何构建数据、工作流与客户信任等难以被复制的竞争壁垒。
OpenAI总裁Greg Brockman接受a16z播客访谈,明确表示我们已进入AGI时代,依据是Astra系统已能连续24小时自主执行任务,并以人类操作界面方式使用计算机。他同时指出,算力普惠与安全对齐才是下一阶段真...
Anthropic、OpenAI、微软等CEO周末联合呼吁放缓前沿AI开发以应对安全风险,此举可能影响企业AI采纳节奏,引发业界对评估机制独立性的讨论。
据报道,OpenAI以超3亿美元收购智能手机影像技术公司Glass Imaging,后者由两名前苹果工程师创立,专注用AI优化手机摄像成像效果,此举被视为与其硬件布局相关。
摘要: Anthropic的Amodei联合OpenAI、谷歌、微软等业内领袖,以近期AI智能体自主攻击事件为由,呼吁行业协调放慢前沿AI能力提升速度以防范失控风险。
据报道,OpenAI以超3亿美元收购智能手机相机软件公司Glass Imaging,其GlassAI神经图像处理器已应用于荣耀等品牌手机,此举延续其消费硬件布局。