大模型

收录 24 篇关于“大模型”的文章,最近更新于 2026-11-12。

Helion接入vLLM线性后端,部分负载吞吐提升超10%

PyTorch Blog于2026年10月2日介绍了将Helion集成到vLLM线性后端的工作。团队希望探索:用高层内核领域专用语言和自动调优,在降低内核实现复杂度的同时,提高大模型推理性能。 这次集成的核心是一份Helion通用矩阵乘法(GEMM)实现。

英伟达推出64GB版DGX Spark,4999美元起

据IT之家10月2日报道,英伟达正式披露DGX Spark产品更新,新增64GB内存版桌面AI计算机,起售价4999美元,将于10月23日正式发售。宏碁、戴尔、华硕、技嘉、微星、H3C等OEM厂商也将推出基于该平台的整机。此前推出的128GB版本同步更新定价,其中128GB FE版本售价为6950美元。 新版本的关键变化是内存容量。

阿里云霍嘉谈企业AI落地:项目先选对场景

据华尔街见闻报道,9月23日云栖大会期间,阿里云智能集团副总裁霍嘉在媒体群访中谈到企业AI落地。他认为,大模型真正落地的第四年,今年才是AI应用落地的元年。但企业项目能否推进,不能只看模型是否足够聪明。 霍嘉将客户分为AI原生、高科技、企业级和政府四类。在他的划分中,前两类更多由需求驱动,后两类则需要先证明使用价值。