ZD至顶网CIO与应用频道 03月30日 北京消息: 作为中国最具代表性的跨境电商,阿里巴巴国际站上有超过1亿件产品,平均每件产品有2000字产品说明,按此计算阿里国际站上的产品需要翻译总量超过2000亿字,而这个数字每天都在增长。整个中国跨境电商产品翻译总量预计超过4000亿字/年。
一个BAT的需求只是冰山一角。根据《2015全球互联网报告》最新发布的数据显示,目前全球互联网用户已超过30亿,占全球总人口的40%。截至2014年12月,中国网民规模达6.49亿,互联网普及率为47.9%,然而全球接近90%以上的网民不具有母语以外的语言技能,其中59.4%以上的用户具有跨语言、交友、购物、娱乐、旅游、享受教育等的需求。
无法计算的数据量每一天都在资讯、影视多媒体、社交媒体、电子商务网站上呈指数增长,分秒间都在提醒我们身处于大数据时代。
在国家大数据战略下,各行各业的大数据应用都在挖掘数据海洋的价值。根据中国信息通信研究院的报告,2015年,中国大数据市场规模116亿人民币;IDC数据显示,2016年,全球大数据市场将达238亿美元;《中国大数据产业白皮书》大胆预测,2020年,中国大数据市场规模8200亿人民币;而麦肯锡对2020年美国大数据市场价值的估计是6900亿美元。
但是,目前大多数大数据只是在单一语种,那些散落在全球范围内的多语种价值大多沉睡海底。放眼国际,你可曾想过联合后的多语数据比单一语种数据价值能高出多少倍?这部分无法计量的价值又如何打捞?
好消息是,语言大数据至少是目前解决此问题的不二方法。语言是一切沟通的基础,通过语料的收集、处理和智能分析,我们将从数据源头抓取跨语言大数据的价值。
近日,“语言大数据联盟”成立预备会在京召开,这个组织要解决的问题顾名思义。该联盟是一个全球性、多领域、多语言的基于大数据资源开放与共享平台的科研应用联盟,由全国翻译专业学位研究生教育指导委员会、中国对外翻译有限公司及全国二十余所重点高校联合发起,将解决语言大数据下的系列问题,为全民提供跨语言大数据智库。据悉,2016年4月8日此联盟将在青岛召开第一次大会,届时有超过100所高等院校、企业与科研机构参与会议,共同就语言大数据的共建、共享与协同进行深入地交流与分享。
好文章,需要你的鼓励
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
当前企业面临引入AI的机遇与挑战。管理层需要了解机器学习算法基础,包括线性回归、神经网络等核心技术。专家建议从小规模试点开始,优先选择高影响用例,投资数据治理,提升员工技能。对于影子IT现象,应将其视为机会而非问题,建立治理流程将有效工具正式化。成功的AI采用需要明确目标、跨部门协作、变革管理和持续学习社区建设。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。