竞价是广告服务的重要功能,不仅需求数量大,而且反应速度要求高,需要在100毫秒给出快速反馈。基于亚马逊云科技的底层架构和网络的优化,FreeWheel实现了在不同的系统中动态出价能力,让业务产生飞轮效应。
从本地到云的加速度
FreeWheel隶属于美国综合性传媒集团康卡斯特(Comcast),提供电视及互联网视频广告投放、预测和增值服务等关键解决方案的技术公司,服务于全美90%以上的美国主流电视媒体和运营商,每年支持近500亿美元的优质广告展示。
FreeWheel的业务遍布全球,在纽约、旧金山、芝加哥、伦敦、巴黎、北京等地设有分支机构。北京分公司是全球研发中心,负责公司核心产品的研发。
FreeWheel一方面对接广告主及代理商,一方面对接视频媒体运营商,实现跨平台的广告精准投放,数据赋能、身份管理以及自动化交易。FreeWheel为伦敦奥运会、索契冬奥会、巴西世界杯直播媒体FOX、里约奥运会等大型顶级赛事媒体提供广告技术支持。
在FreeWheel快速发展的过程中,FreeWheel CTO马玉羚体会到了四大挑战:第一,持续的应用创新与迭代:交易本身的需求、售卖方式等都在不断变化,需要持续的更新;第二,快速、宽幅的弹性伸缩:像体育赛事瞬时流量的激增需要具备弹性扩展的能力进行支持;第三,海量的数据存储与处理:每天要处理80T的日志数据,最终存储10T的数据,数据存储后还要对各种不同应用预测提供分析;第四,严格的安全和合规要求。
FreeWheel CTO马玉羚
FreeWheel最早拥有的20多个数据中心,大部分业务已经迁移到公有云,只有少量业务由于其特殊性,目前还在本地。
敏捷型企业的践行者
FreeWheel上云后首先进行了应用的迁移,之后又进行了优化。其使用了Amazon EKS、Amazon Lambda、Amazon Aurora、Amazon DynamoDB、Amazon S3等Serverless服务。基于亚马逊云服务,FreeWheel还开发了一些工具,像运维平台,监控能力等。
FreeWheel的架构可以分为四部分,第一,与用户输入业务逻辑相关;第二,广告投放引擎;第三,数据处理应用;第四,预测和算法。马玉羚表示,目前业务逻辑部分全部进行了微服务化,一个服务可以拆分成20-30个服务,提高了服务的开发节奏和开发效率,同时其他部分的微服务也在逐步进行。微服务之间通过gRPC方式进行交互,跨系统之间的交互有两种模式,系统间有兼容协议使用gRPC方式,没有则使用传统Restful方式交互。
“为了保证整个系统的效率,FreeWheel很多应用场景都是通过AI进行调节。”马玉羚说道,系统每秒都会进入大量的需求,基于Amazon SageMaker建立的AI模型可以对整个系统进行监控。在广告预测上可以使模型的迭代周期大幅缩短,效果提升近1倍。
同时,借助于Amazon RDS和Amazon EBS的安全特性,FreeWheel可以轻松满足数据存储、加密等审计方面的需求。Spot Instance的使用也让团队节省了超过50%的资源使用成本,并提升了团队的运维效率。
这些都保证了FreeWheel可以快速构建新业务,以新推出的Marketplace Platform为例,Amazon EKS提供了50+集群和5000+Pods,Amazon Lambda保证了每天100万的请求,Amazon SageMaker对交易需求进行分析,累计处理100TB数据,后端数据接入Amazon Aurora、Amazon DynamoDB、Amazon S3。
未来系统稳定性永远是FreeWheel的第一要素,具备自动伸缩和跨区域容灾的能力;其次在生产效率上,需要快速、敏捷的推出新的产品和功能;最后是数据驱动,利用人工智能和机器学习进行预测,用数据驱动运营。
好文章,需要你的鼓励
当前企业面临引入AI的机遇与挑战。管理层需要了解机器学习算法基础,包括线性回归、神经网络等核心技术。专家建议从小规模试点开始,优先选择高影响用例,投资数据治理,提升员工技能。对于影子IT现象,应将其视为机会而非问题,建立治理流程将有效工具正式化。成功的AI采用需要明确目标、跨部门协作、变革管理和持续学习社区建设。
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
美国垃圾收集行业2024年创收690亿美元,近18万辆垃圾车每周运营六至七天,每日停靠超千次。设备故障成为行业最大隐性成本,每辆车年均故障费用超5000美元。AI技术通过实时监控传感器数据,能提前数周预测故障,优化零部件库存管理,减少重复维修。车队报告显示,预测性维护每辆车年节省高达2500美元,显著提升运营效率和服务可靠性。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。