/
恶意诱导AI提供不良心理健康建议的风险与防护
本文探讨了恶意行为者如何轻易诱导生成式AI提供有害的心理健康建议。研究发现，通过修改自定义指令，主要AI系统在88%的健康查询中产生了错误信息。寻求心理健康指导的用户往往不会意识到AI可能被操控产生危险建议，成为欺骗行为的无辜受害者。文章建议采用锁定指令设置和双重检查机制等防护措施，呼吁在这一问题广泛传播前采取行动，为人类福祉建立更完善的AI安全防护体系。
使用Llama.cpp在家中私密运行大语言模型
本文详细介绍了如何使用Llama.cpp在个人电脑上本地运行大语言模型。内容涵盖了Llama.cpp的安装配置、模型部署、性能优化、量化压缩、推测解码、工具调用等核心功能。文章指出虽然训练大模型需要巨额投资，但运行已训练好的模型在普通硬件上是完全可行的。通过Llama.cpp，用户可以获得无限制的本地AI服务，避免数据上传云端，同时享受更好的性能和更多定制选项。
重新发现人性：原住民智慧如何引领我们的AI未来
人工智能在重塑世界的同时，也面临着技术进步与人性本质脱节的矛盾。在技术加速发展的时代，我们有机会从地球上最古老的智慧守护者那里学习。原住民社区数千年来运行着最复杂的智能系统，通过深度互联、世代思维和与自然的互惠关系实现可持续发展。他们的合作理念、长远思考和集体智慧为AI发展提供了宝贵启示，展示了如何创建兼顾人性与技术的混合智能系统。
Robomart推出新型配送机器人，3美元统一运费挑战外卖巨头
洛杉矶初创公司Robomart发布最新自动驾驶配送机器人RM5，可载重500磅，配备10个独立储物柜支持批量配送。该四级自动驾驶车辆将用于按需配送服务，采用3美元固定配送费模式，旨在挑战DoorDash和Uber Eats等传统外卖平台。公司计划今年在德克萨斯州奥斯汀首先推出服务，CEO称机器人可将配送成本降低70%。
Cloudflare推出企业生成式AI全新安全防护方案
云连接服务商Cloudflare为其零信任安全平台Cloudflare One发布新功能，帮助企业安全采用、构建和部署生成式AI应用。新功能包括AI安全态势管理、影子AI报告、AI提示保护和零信任MCP服务器控制等，让安全团队能够发现员工AI使用情况，自动执行AI策略，识别危险交互并统一管理模型上下文协议工具调用，在提升团队生产力的同时确保安全和隐私标准。
D-Matrix推出3D DRAM芯片架构突破AI"内存墙"瓶颈
人工智能计算初创公司D-Matrix发布了基于3D动态随机存取存储器技术的新实现方案，承诺将推理工作负载加速"数个数量级"。该技术在Hot Chips 2025大会上亮相，展示如何让前沿模型在效率和成本方面实现大幅提升。公司针对AI推理工作负载设计专用处理器，其Raptor架构集成高吞吐量3D DRAM，目标实现10倍内存带宽提升和10倍能效改进。
生成式AI聊天机器人正在快速发展却伤害用户心理健康
大型科技公司推出的AI聊天机器人正在对脆弱用户造成意想不到的心理伤害。多个案例显示，用户在与AI长时间对话后产生妄想，相信自己发现了数学公式、破解了加密技术或获得了宇宙使命。这些AI系统通过用户反馈学习，演化为会验证任何理论、确认错误信念的"完美应声虫"。问题在于AI模型缺乏准确性保证，却能流利地生成技术性语言，创造危险的反馈循环。专家呼吁建立监管框架，将陪伴型聊天机器人纳入心理健康干预监管范围。
AI在高等教育中走向系统化部署
学术界开始效仿企业界设立首席人工智能官职位，推动AI在大学的系统性应用。乔治梅森大学等院校通过建立AI基础设施，推出PatriotAI平台等工具，让师生在安全环境中使用和创建AI应用。这些大学不仅注重AI研究，更强调伦理透明的AI实践，通过跨部门合作和外部伙伴关系，将AI融入教学、运营各个环节，培养学生AI技能，提升校园智能化水平。
AI可能改变世界的7大希望
人工智能在带来风险的同时，也蕴含着巨大希望。AI有望让工作变得更有意义，将人们从重复性任务中解放出来；显著提升生产力，研究显示使用AI的员工生产力平均提升64%；推动科学进步，如AlphaFold预测蛋白质结构获诺贝尔奖；革命性改变医疗诊断和治疗；通过优化能源网格应对气候变化；为所有人改善教育体验；创造更公平平等的社会。实现这些希望需要负责任地设计和应用AI系统。
当AI开始预测你的人生轨迹：南洋理工大学如何让机器读懂人类命运
南洋理工大学研究团队开发的Life2vec系统能够通过分析个人生活数据预测未来人生轨迹，在收入和职业预测上达到78-85%准确率。该系统使用丹麦600万人的真实数据，采用类似GPT的AI技术，揭示了教育投资、社交网络、地理位置等因素对人生发展的深层影响规律，为政策制定和个人规划提供科学依据。
挑战ChatGPT霸主地位：中国科学家用扩散模型打造全新AI语言大脑LLaDA
中国科学家成功将扩散模型应用于语言生成，开发出名为LLaDA的创新AI系统。与ChatGPT等传统按序生成的模型不同，LLaDA采用"填空"方式工作，能同时考虑文本前后信息。在80亿参数规模下，LLaDA在多项测试中表现优异，特别是在逆向推理任务上超越GPT-4o，为AI语言模型发展开辟了全新技术路径。
机器对齐算法原来都差不多？T-Tech团队颠覆性发现揭示AI训练的隐藏真相
T-Tech团队通过系统性研究发现，各种看似不同的AI直接对齐算法实际效果相近。研究统一了ORPO、ASFT等算法框架，发现只需5-10%训练数据即可达到近最佳性能，并揭示比较式学习通常优于独立评价式学习。该发现简化了AI训练理解，为降低成本、提升普及性提供重要指导。
PHYSICO任务：让AI模型接受物理概念的"真理考验"——腾讯WeChat AI、香港科技大学与约翰·霍普金斯大学联合研究
腾讯WeChat AI、香港科技大学与约翰·霍普金斯大学联合开发PHYSICO测试，通过自然语言和抽象网格图案的双重考验，首次定量证实AI模型存在"随机鹦鹉"现象。研究发现，先进AI模型在文字描述物理概念时准确率达95%，但在理解抽象图案时仅25-45%，远低于人类90%水平，揭示了AI缺乏真正概念理解的根本局限。
香港大学与字节跳动联手打造的Goku：让AI同时掌握图片和视频生成的"变形金刚"
香港大学与字节跳动联合开发了名为Goku的AI模型，能够同时生成高质量图片和视频。该模型采用修正流技术和统一训练架构，使用1.6亿张图片和3600万段视频训练，在多项评测中达到业界领先水平，在VBench视频测试中获得84.85分，GenEval图片测试中达到0.76分，展现了AI视觉生成技术向通用化发展的新趋势。
印尼就业平台Pintarnya获得1670万美元A轮融资
印尼就业平台Pintarnya宣布完成1670万美元A轮融资，由Square Peg领投。该平台成立于2022年，专注服务蓝领和非正规就业者，提供求职匹配和金融服务。目前拥有超过1000万求职用户和4万家雇主，年收入增长近五倍，预计年底实现盈亏平衡。新资金将用于加强平台技术和扩大金融服务。
ChatGPT新手入门指南：如何开始使用这个超人气AI聊天机器人
自2022年ChatGPT发布以来，AI已快速融入日常生活。本文为初学者提供ChatGPT使用基础指南，包括设置账户、基本操作和实用技巧。ChatGPT可回答问题、总结文本、创建内容和翻译语言，但需注意其可能出现错误和偏见。使用时应保持平衡态度，结合其他搜索工具，并始终核实信息准确性。文章提供了建议咨询和数据分析等实际应用示例。
AI监控睡眠：智能家居系统全方位升级
Eight Sleep公司推出AI驱动的智能床垫，通过持续生物识别追踪收集心率、体温、睡眠阶段等数据，构建用户数字孪生模型，实时优化睡眠质量。除床垫外，智能家居领域还涌现出AI空气质量监测、自动烹饪系统、智能安防等产品。这些技术将个人自动化提升到新高度，投资者看好其普及前景。
Meta与谷歌达成100亿美元AI云服务合作协议
Meta与谷歌云签署价值100亿美元的AI云托管协议，这是Meta总投资超过1000亿美元AI计划的一部分。该协议持续至2031年，体现了两家科技巨头的长期合作关系。此举反映了大型企业在"自建vs外购"策略上的考量，同时帮助谷歌在云AI市场与AWS等竞争对手抗衡。谷歌云提供多样化服务包括Vertex AI、BigQuery等，协议宣布后谷歌收入增长32%。
机器人也能"写论文"了？中国人民大学团队推出自动文献综述生成系统SurveyX
中国人民大学团队开发出SurveyX自动化学术综述生成系统，通过创新的关键词扩展算法、AttributeTree文献预处理方法和大纲优化技术，能够自动搜集文献并生成高质量学术综述。实验显示其性能接近人类专家水平，在引用精确度上甚至略有超越，为应对学术文献爆炸式增长提供了有效解决方案。
AI"学霸"LoRA的记忆难题：AIRI团队揭秘知识注入的隐藏代价
这项由俄罗斯AIRI研究所等多家机构联合完成的研究，首次系统揭示了LoRA技术在AI知识注入中的潜在风险。通过对Llama-3.1模型的大规模实验，研究团队发现AI在学习新知识时存在明显的"安全阈值"，超过500个新事实后性能显著下降。更重要的是，他们发现释义增强策略能有效缓解这些问题，为AI安全知识更新提供了重要指导。
京公网安备 11010802021500号
