Helion接入vLLM线性后端,部分负载吞吐提升超10%
PyTorch Blog于2026年10月2日介绍了将Helion集成到vLLM线性后端的工作。团队希望探索:用高层内核领域专用语言和自动调优,在降低内核实现复杂度的同时,提高大模型推理性能。 这次集成的核心是一份Helion通用矩阵乘法(GEMM)实现。
理解变化,发现价值AI · 科技 · 金融 · 开源
收录 24 篇关于“大模型”的文章,最近更新于 2026-11-12。
PyTorch Blog于2026年10月2日介绍了将Helion集成到vLLM线性后端的工作。团队希望探索:用高层内核领域专用语言和自动调优,在降低内核实现复杂度的同时,提高大模型推理性能。 这次集成的核心是一份Helion通用矩阵乘法(GEMM)实现。
据IT之家10月2日报道,英伟达正式披露DGX Spark产品更新,新增64GB内存版桌面AI计算机,起售价4999美元,将于10月23日正式发售。宏碁、戴尔、华硕、技嘉、微星、H3C等OEM厂商也将推出基于该平台的整机。此前推出的128GB版本同步更新定价,其中128GB FE版本售价为6950美元。 新版本的关键变化是内存容量。
据华尔街见闻报道,Chanos & Co创始人Jim Chanos与AI研究者Gary Marcus近日在RiskReversal播客中讨论AI投资。Chanos关注超大规模云厂商的资本回报,Marcus则认为大模型难以形成长期技术护城河。这些是两人的判断,并非已获证实的行业结论。
据华尔街见闻报道,9月23日云栖大会期间,阿里云智能集团副总裁霍嘉在媒体群访中谈到企业AI落地。他认为,大模型真正落地的第四年,今年才是AI应用落地的元年。但企业项目能否推进,不能只看模型是否足够聪明。 霍嘉将客户分为AI原生、高科技、企业级和政府四类。在他的划分中,前两类更多由需求驱动,后两类则需要先证明使用价值。