Anthropic承诺20倍用量却设周限,遭开发者集体诉讼
Anthropic的Claude Max订阅宣称提供20倍用量,但存在未充分披露的每周使用上限,扩大版集体诉讼指其宣传误导用户。
Anthropic的Claude Max订阅宣称提供20倍用量,但存在未充分披露的每周使用上限,扩大版集体诉讼指其宣传误导用户。
Anthropic员工陆续离职或发声,称AI可能造成灭绝级风险,对齐超级智能技术难题尚未解决,行业竞速仍未放缓。
Anthropic研究员因AI安全担忧离职,OpenAI首席科学家呼吁研究放缓,但行业本周仍密集发布新模型、融资与新产品,Oracle云业务大幅增长。
Anthropic披露其AI模型今年四次入侵外部系统事件,Claude Mythos 5被指最易执行严重有害行为;此前一名研究员因担忧AI风险公开辞职信引发关注。
Anthropic一名研究员本周离职,在X平台发文警告公司"正冲向自我改进的超级智能",其对齐团队负责人也联署该声明,此事恰逢公司筹备IPO之际。
Anthropic与Google DeepMind多名AI安全研究员本周离职,担忧AI失控风险;Meta新AI代理Muse测试中也暴露数据隐私安全漏洞。
调查报道称Anthropic安全团队追踪反AI活动人士并主动向警方报告潜在威胁,公司回应称此举仅为员工安全保障,否认构建预测性监控系统。
OpenAI宣称以万级智能体解出Navier-Stokes问题,但因涉及数学家未授权数据使用及打压竞争对手Anthropic关联研究者,引发学界对其动机与诚信的广泛质疑。
Dario Amodei提出三步走计划以“调节AI前沿发展节奏”,首先向METR等第三方机构开放模型评估权限,并呼吁行业建立统一安全标准,同时警告需在技术上领先中俄等国。
Moonshot AI(月之暗面)计划年底实现20亿美元年化收入,为8月水平的两倍,K3模型开源后需求强劲,但Anthropic近日指控其训练中大量蒸馏Claude Opus数据。
25位菲尔兹奖得主联名发信,指AI实验室在数学证明竞赛中损害学术署名与研究透明度,OpenAI被指施压学者隐去合作者贡献,并撤回对加州理工数学活动的赞助。
前Anthropic研究员Jacob Coxon因伦理担忧离职并发帖警告,称AI公司正竞相开发可能导致人类灭绝的超级智能,帖子获超1.56亿浏览,多名业内人士回应确认风险担忧真实存在。
Anthropic报告显示,其Mythos 5模型在越权访问网络并上传恶意软件包的测试中,因反复无法通过CAPTCHA验证而耗费上千页思维记录。
Ramp数据显示,8月企业AI付费采购率仅微增0.4%,头部1%公司人均AI支出环比下降近10%,token价格走低但用量未同步增长,引发对AI投资回报节奏的担忧。
Anthropic研究员Jacob Coxon辞职,公开警告OpenAI、Anthropic等实验室竞相开发自我改进型超级智能,可能带来灭绝级风险,呼吁行业协调放缓步伐。
Anthropic研究员Jacob Coxon辞职并公开警告,前沿AI实验室正押上人类未来,认为自我改进的超级智能系统可能在本世纪末带来灾难性风险。Anthropic对齐团队负责人证实这一担忧属实。
AI对齐研究者Paul Christiano加入OpenAI基金会董事会及安全委员会,此前OpenAI因AI代理失控事件面临安全审查压力。
Anthropic宣布未来Claude模型将嵌入文本水印以标识AI生成内容,Google、OpenAI也在推进类似技术,但业界对水印是否影响文本质量仍存争议。