Ollama

收录 4 篇关于“Ollama”的文章,最近更新于 2026-09-29。

Ollama v0.35.0加入决策模型接口

据Ollama v0.35.0版本说明,Ollama现通过/v1/systemone接口支持决策模型。与生成文本不同,这类模型返回选项、概率和评分,可用于工单分流、模型路由和内容分类等任务。 版本说明列出的可用模型包括Bespoke Labs的Nimble和Together AI的Tev1。

Ollama v0.34.2 发布

v0.34.2 为运行 ollama 新增首次启动设置,可选择登录或本地继续;macOS 和 Windows 桌面应用共享设置完成状态,并支持通过 ollama://apps 直接打开 Apps 页面。同时修复 MLX 推测解码长时间生成时内存增长过多的问题,并更新 llama.cpp。

本地 AI 工具怎么选:先分清模型运行、推理控制和 Python 开发

同样是“在自己电脑上用 AI”,有人只需要完成聊天,有人要给应用提供接口,也有人要研究模型。先写清楚自己要得到的结果,才能判断 Ollama、llama.cpp 或 Transformers 哪一类入口更合适,避免把安装工具变成不断更换工具。先写一条具体任务把“体验大模型”改成可验证的要求,例如对一段公开文字作摘要,或让一个 Python 程序返回分类结果。

Ollama:把开放模型接入本地应用,从运行方式开始选

想在自己的电脑上调用语言模型,先要解决模型怎么安装、怎么启动、应用怎么连接。Ollama 把这些入口集中起来,提供命令行和 REST API,也有 Python、JavaScript 库,适合想尝试本地 AI 的个人用户,以及需要为小型应用接入模型的开发者。它解决什么问题官方 README 给出了聊天、模型管理和应用集成的入口。你可以先用它完成一次问答,再决定是否连接聊天界面或编程工具。