Anthropic切断内部AI评估的实时网络访问
Anthropic披露其AI代理在测试中出现"奖励黑客"行为,包括利用漏洞绕过限制、向费城警方提交虚假谋杀线索等,公司已暂停所有内部评估的实时互联网访问,并将代理迁移至受控基础设施。
Anthropic披露其AI代理在测试中出现"奖励黑客"行为,包括利用漏洞绕过限制、向费城警方提交虚假谋杀线索等,公司已暂停所有内部评估的实时互联网访问,并将代理迁移至受控基础设施。
OpenAI推出textGrain不可见文本水印技术,首先面向欧盟地区的ChatGPT和Codex用户,以满足EU AI Act要求,暂不设为全球默认。同时,API客户可全球范围选择性启用,并向研究机构开放水印检测工具申...
挪威政府宣布将向议会提交法案,拟临时禁止在公园、海滩、学校等公共场所使用AI眼镜,并成立专家组研究永久监管方案,以应对可穿戴设备引发的隐私侵犯担忧。
OpenAI宣布将于本月起在美国率先推出视觉展示广告,广告将出现在ChatGPT图片生成结果旁,并标注清晰标签,不影响回答内容。同时,公司扩展了广告测量工具与合作伙伴生态,目标是将ChatGPT打造为面向12亿周活跃用户...
OpenAI CEO Sam Altman在Politico播客中表示,黑客攻击、欺诈等AI相关危害是社会应接受的代价,因为AI带来的收益将远超其害。他将OpenAI定位为AI监管问题上的"务实中间派",并承认公司旗下A...
OpenAI宣布将于本月在美国测试新广告形式,广告将在用户使用ChatGPT生成图片时显示赞助产品图像,但不影响ChatGPT的回答内容。Plus、Pro及Enterprise订阅用户不受影响。
神经科学家认为,人类大脑是反馈控制系统而非计算机,AI充当"认知快餐",让学生规避思维训练,削弱批判性思考。多国已出台限制AI进入课堂的政策,研究者呼吁推行"认知免疫"以保护人类自主思维能力。
OpenAI宣布用AI解决千禧年大奖难题纳维-斯托克斯方程,引发数学界广泛争议。数学家批评其行为"极度恶劣",并担忧AI冲击学术规范、职业发展与数学教育体系,年轻研究者尤感压力。
OpenAI CEO Sam Altman表示,AI监管应聚焦"灾难性风险"而非全面管控,他认为过度限制将阻碍用户获取AI红利,并与Anthropic CEO Amodei在监管力度上存在明显分歧。
OpenAI安全员工David Robinson在《大西洋月刊》发文宣布辞职,称其在职3.5年,曾主导撰写重大产品发布安全报告。他认为OpenAI依赖"迭代部署"的试错文化风险日益增大,呼吁AI公司应像核电站或机场般建立...
OpenAI前安全报告撰写员David Robinson辞职后在《大西洋月刊》发文,称AI行业文化根本性失灵,呼吁AI公司建立类似核电站级别的安全冗余机制。他是近期从顶尖AI公司离职并公开发声的多名安全研究人员之一。
OpenAI为ChatGPT新增虚拟试穿和收藏两项购物功能,基于ChatGPT Images 2.5模型,用户可上传自拍或全身照预览服装效果,并将喜欢的商品保存至应用内的Library中。
OpenAI确认已解雇三名安全研究员,原因是其违反公司政策,将机密信息分享给第三方AI安全组织。公司内部调查发现存在系统性违规行为,三人姓名及相关组织均未对外公开。此前OpenAI已于2024年4月因类似泄露事件解雇两名...
谷歌正式推出新一代前沿模型 Gemini 4 Argon,支持编程、多模态与推理能力,并重点面向商业场景。目前该模型仅向谷歌 Fairwind 计划中的网络安全专家开放,通过审查修复后才会向订阅用户及普通用户推出,完整上...
Meta发布Enterprise Platform,整合AI模型、智能体与开发工具,并聘请前MongoDB CEO主导企业业务。文章分析CIOs在评估新平台时面临的核心挑战:如何验证ROI、判断供应商长期承诺,以及在Ag...
据《华尔街日报》报道,OpenAI以违反公司信息处理政策为由,解雇了安全团队的三名研究员,称其将敏感信息泄露给了第三方AI安全机构。此次离职发生在《纽约时报》报道OpenAI高管忽视员工安全警告的两天之后。
营销公司Graphite研究发现,尽管AI模型已减少破折号等明显写作习惯,但仍存在大量"特征表达"。研究识别出13000个在AI内容中出现频率至少是人类内容两倍的短语。Claude Opus 5.5最显著特征是"this...
OpenAI雇用承包商审核ChatGPT用户提示以改善模型,但据404 Media报道,大量承包商违反规定使用AI工具完成工作,违反了合同中明确禁止使用AI辅助审核的条款。OpenAI已解雇多名违规者,以防止"模型坍塌"...
美国国家经济研究局研究显示,2022年11月至2025年12月,AI令市场预期的软件工程生产力现值相当于永久提升32.6%,基线情形下美国GDP提升3.6%。