据Ollama v0.35.0版本说明,Ollama现通过/v1/systemone接口支持决策模型。与生成文本不同,这类模型返回选项、概率和评分,可用于工单分流、模型路由和内容分类等任务。

版本说明列出的可用模型包括Bespoke Labs的Nimble和Together AI的Tev1。调用时可提供上下文及一个或多个问题;接口支持choice、noul和score三种问题类型,分别用于选择选项并返回各项概率、返回条件成立的概率,以及按有序标准给出评分。

这次更新还让设置界面不必等待模型发现完成即可打开,并修复了MLX模型下载停滞后一直挂起等问题。对于包含已弃用参数typical_p的请求,Ollama现在会记录警告,而不是直接使请求失败。

原始来源:v0.35.0