蚂蚁联名SGLang邀你_新浪新闻

机器之心Pro

26-06-24 14:38 微博认证：机器之心官方微博

蚂蚁集团联名SGLang，邀你共聚ICML首尔学术之夜 http://t.cn/AXSJT2vY

新浪科技：

【#阿里合伙人团建插秧#】近日，阿里巴巴合伙人、高德董事长刘振飞在阿里内网发贴《手里有秧，才能确保未来有粮》，分享了一场阿里在杭管理层下田插秧的团建活动，被网友称为#芭芭农场真人版#。从现场照片看，马云、吴泳铭、蒋凡、蒋芳等阿里核心管理层悉数在场，蚂蚁集团董事长井贤栋、CEO韩歆毅也一

2026-06-22 17:50:38

转发(72) 评论(90)

郭晶晶：

今年达沃斯的声音，是一场关于"规模化创新"的对话。昨天，我和蚂蚁集团首席可持续发展官彭翼捷女士一起，受邀作为Davos on Air播客的嘉宾，讨论交流了关于从潜能的激活，到能力的培养，再到机会的释放，以及在这个AI时代里，“人”又该如何守住自己的坐标。技术可以替代重复，却无法替代真实的体验、

2026-06-24 10:14:45

转发(17) 评论(48)

新浪热点：

#蚂蚁集团回应支付宝重大事故# 【支付宝重大事故：整整5分钟，所有订单打8折】#蚂蚁集团回应支付宝所有订单打8折# 2025年1月16日，多位支付宝用户在社交媒体发布订单支付页面截图称，自己在下午14：40-14:45时间段内，通过支付宝进行个人转账、信用卡支付、缴费等操作时，均在订单支付时提示“政府补贴

2025-01-16 21:49:01

转发(345) 评论(762)

咦呀咦儿呀：

#支付宝事故所有8折订单后续将扣回#追回来就放心了，不为别的，就是担心蚂蚁集团损失严重，倒不是为了我自己[喵喵]

2025-01-16 23:21:44

转发(20) 评论(95)

旅行厨男：

深圳腾讯马化腾当初点评蚂蚁集团上市，每句话背后都有深意啊，尤其是最后一句话，小马哥才是高手！[摊手][求饶] http://t.cn/A6WpOy7d

2023-11-07 09:34:12

转发(1031) 评论(213)

老板联播：

【#马云现场祝福蚂蚁20岁生日#：我是为了蚂蚁未来20年而来】12月8日，马云在蚂蚁集团20周年现场发言，代表最早的创始群体祝福蚂蚁。马云表示，自己不是为了蚂蚁过去的20年而来，而是为了蚂蚁未来的20年而来。未来蚂蚁依然应该坚持让科技给每一个普通老百姓的生活带去进步和改变。“一群有情有义的年轻

2024-12-08 20:36:18

转发(511) 评论(361)

蚁工厂：

SGLang 团队的Chayenne Zhao记录了他们排查大模型推理系统OOM 的过程。在大模型推理系统中，OOM 往往被简单理解为“显存不够”。但真正排查起来，问题远比这句话复杂：到底是模型权重占满了显存，KV cache 分配失败，activation 空间不足，还是多模态 encoder 没有拿到足够资源？在 SGLang Omni 迁移

2026-05-24 15:55:35

转发(34) 评论(4)

Transformer-周：

Vllm和sglang两个team终于打起来了，他俩还有不少contributor 是双向贡献的，然后也终于撕起来了，谁说开源就不互踩的[二哈]

2025-04-20 07:01:16

转发(7) 评论(7)

挨踢牛魔王：

#小米MiMo模型API降价# 小米这个模型为什么能降价？其实小米MIMO官方已经说明原因了，如下: 我们基于 SGLang HiCache 完整支持 SWA（Sliding Window Attention），将 KV Cache 在 GPU 显存、CPU 内存、SSD 等多级存储之间的数据搬运量降低至优化前的近 1/7，并将可缓存 token 数量提升至优化前的近 5

2026-05-27 19:55:38

转发(6) 评论(1)

蚁工厂：

各个云平台在自己提供DeepSeek服务或教用户如何部署DeepSeek时，基本都是推荐用SGLang这个框架： github.com/sgl-project/sglang 包括NVIDIA、AMD、Azure、字跳的火山引擎、Vultr等等 #ai创造营#

2025-02-06 20:29:00

转发(47) 评论(6)

蚁工厂：

SGLang 记录了一次跨公司、跨时区的开源协作过程： ----------- DeepSeek V4 在开源推理引擎中的乱码输出漏洞已在 SGLang 中修复。对周末受影响的所有人，抱歉带来麻烦。特别感谢蚂蚁集团提交修复 PR。这是一次跨公司、跨时区、不到 48 小时的马拉松式协作。 ollama 和 humansand 最先发现问题；随

2026-04-27 11:16:27

转发(7) 评论(1)

Be_Water_Just_Flow：

对搞技术搞AI的人来说，一定要在这个时代浪潮里build一个属于你自己的东西，紧紧地围绕这一个小点，去提供支持和服务，做到极致，后面都是走向创业和资本青睐的。比如vllm的游凯超，SGLang. 干就晚了，从开源走向startup（vllm，SGLang），从学术走向startup (Yan Lecun&Saining的AMI, Yu Su的NeoCo

2026-04-28 04:34:56

转发(6) 评论(0)

青稞AI：

🔥把投机采样讲透：以 SGLang 中的 EAGLE-2 为例投机采样（Speculative Decoding）这两年几乎成了 LLM 推理加速的标配，但真正理解它的人不多。很多人停留在”小模型猜、大模型验”这一句话上，一到细节就懵：主模型 verify 的时候到底在算什么？为什么一次前向能验好几个 token？长上下文到底是帮

2026-06-20 11:56:51

转发(4) 评论(0)

蚁工厂：

记得上次发的那篇“为什么LLM 的推理过程是非确定性的？如何让LLM 100%输出同样的结果？”文章吗 http://t.cn/AXhFOa33 现在SGLang团队根据这篇文章在SGLang里实现啦！http://t.cn/AXhFOa31 这篇文章介绍了SGLang框架为了实现大语言模型（LLM）推理结果的“确定性”所做的工作。确定性推理指的是，对

2025-09-24 08:49:15

转发(84) 评论(8)

首页

导航

反馈

登录

Sina.cn(京ICP0000007)