搜索
RTP-LLM 是阿里巴巴大模型预测团队开发的高性能 LLM 推理加速引擎。它在阿里巴巴集团内广泛应用，支撑着淘宝、天猫、高德、饿了么等核心业务部门的大模型推理需求。在 RTP-LLM 上，我们实现了一个通用的投机采样框架，支持多种投机采样方法，能够帮助业务有效降低推理延迟以及提升吞吐。
阿里巴巴可能看清楚了，自我迭代，不仅是靠用户价值和创业精神的回归，更需要的，是一场生产力革命。
招人的风向透露出大厂们在AI上的动向。最近阿里国际传出大幅加码AI人才布局的消息引来关注，再早一点，美团的AI招聘在社交网络上引起不少讨论。
随着技术的深入应用，如何高效利用大模型技术优化用户体验，同时应对其带来的诸多挑战？本文将从RAG的发展趋势、技术挑战、核心举措以及未来展望四个维度总结我们应对挑战的新的思路和方法。
AI大模型在咖啡店怎么落地？
阿里巴巴的云业务部门正升级其海外可用的人工智能工具套件，以吸引更多全球客户。
百度和阿里，开启“AI超级框”大战。
面对大模型，三家大厂有相同的目标，选了不同的路径。
数学题， 一直是检验 AI 实力的 “硬核考场” —— 公式推导、逻辑链条、抽象思维缺一不可 。最近，我好了几天时间对国内外 7 款大厂模型展开了一场 “数学高考 ”，用阿里全球数学竞赛 + 中国奥赛真题实测它们的智商上限。
阿里又发了个有意思的大模型——QVQ-Max，第一版视觉推理模型，对任意图像或视频都可以进行深度思考。