Ollama REST API - OpenAI Compatibility
本节内容我们来看一下OpenAI Compatibility。OpenAI的API接口是大模型应用开发中最常用、且集成度最高的API接口规范其兼容接口主要包括chat/completionscompletionsmodelsembeddings我们上两节课程内容中介绍的/api/generate和/api/chat接口其实就是Ollama兼容OpenAI的REST API接口的底层实现。其中:/api/generate接口对应OpenAI的completions接口/api/chat接口对应OpenAI的chat/completions接口因此我们现在再来看ollama中的OpenAI compatibility的API接口调用就非常容易理解了。非流式调用from openai import OpenAI # type: ignore client OpenAI( base_urlhttp://127.0.0.1:11434/v1/, # 这里修改成可访问的 IP api_keyollama, # 这里随便写但是api_key字段一定要有 ) chat_completion client.chat.completions.create( modeldeepseek-r1:1.5b, messages[ { role: user, content: 你好请你介绍一下什么是人工智能, } ], ) print(chat_completion.choices[0].message.content)流式调用from openai import OpenAI client OpenAI( base_urlhttp://127.0.0.1:11434/v1/, api_keyollama, ) messages [ { role: user, content: 你好请你介绍一下什么是人工智能, } ] try: # 调用聊天接口 stream client.chat.completions.create( modeldeepseek-r1:1.5b, messagesmessages, streamTrue ) # 处理流式响应 for chunk in stream: if chunk.choices[0].delta.content is not None: print(chunk.choices[0].delta.content, end, flushTrue) except Exception as e: print(f发生错误: {str(e)})支持的功能功能描述聊天完成Chat completions流媒体StreamingJSON模式JSON mode可再现的输出Reproducible outputs视觉Vision工具Tools支持的请求字段请求字段描述model模型messages消息frequency_penalty频率惩罚presence_penalty存在惩罚response_format响应格式seed种子stop停止stream流式输出stream_options流式选项include_usage包含使用情况temperature温度top_pTop-p 采样max_tokens最大令牌数tools工具

相关新闻

ALLOS 与 Ennostar 结成 microLED 战略合作伙伴关系

ALLOS 与 Ennostar 结成 microLED 战略合作伙伴关系

2026/7/11 13:57:19 阅读更多 →
光学计量工具瞄准 AR/VR、显示器和光源

光学计量工具瞄准 AR/VR、显示器和光源

2026/7/10 2:42:28 阅读更多 →
弗劳恩霍夫,填补有机半导体表征领域的空白

弗劳恩霍夫,填补有机半导体表征领域的空白

2026/7/11 12:17:30 阅读更多 →

最新新闻

3款酒店管理系统UI设计对比:原型工具、前端框架与设计规范差异

3款酒店管理系统UI设计对比:原型工具、前端框架与设计规范差异

3款酒店管理系统UI设计对比:原型工具、前端框架与设计规范差异在数字化转型浪潮中,酒店管理系统的用户体验直接影响运营效率。本文将从AI原型工具、前端框架实现和设计规范体系三个维度,对比分析不同技术路径下的UI设计差异,为产品…

2026/7/12 0:19:18 阅读更多 →
LL(1)文法实战:3步构造预测分析表,解决王原生习题4.1/4.2/4.3

LL(1)文法实战:3步构造预测分析表,解决王原生习题4.1/4.2/4.3

LL(1)文法实战:3步构造预测分析表,解决王原生习题4.1/4.2/4.3编译原理课程中,语法分析是核心难点之一。而LL(1)文法作为自顶向下分析方法的重要基础,其预测分析表的构造过程常常让学生感到困惑。本文将用一套标准化的三步流程&…

2026/7/12 0:17:18 阅读更多 →
Wand-Enhancer:彻底解锁Wand专业版功能的开源增强工具

Wand-Enhancer:彻底解锁Wand专业版功能的开源增强工具

Wand-Enhancer:彻底解锁Wand专业版功能的开源增强工具 【免费下载链接】Wand-Enhancer Advanced UX and interoperability extension for Wand (WeMod) app 项目地址: https://gitcode.com/gh_mirrors/we/Wand-Enhancer 你是否厌倦了Wand(原WeMod…

2026/7/12 0:17:18 阅读更多 →
终极字体资源库:15款专业字体一站式获取指南

终极字体资源库:15款专业字体一站式获取指南

终极字体资源库:15款专业字体一站式获取指南 【免费下载链接】fonts My favorite fonts: SF Pro Text, Pingfang SC, Avenir Next, Roboto, Uber and more. 项目地址: https://gitcode.com/gh_mirrors/font/fonts 还在为设计项目寻找合适的字体而烦恼吗&…

2026/7/12 0:15:17 阅读更多 →
ChatGPT返回非标准JSON?别再用try-except硬扛!这7种RFC 8259兼容性兜底方案已通过千万级QPS验证

ChatGPT返回非标准JSON?别再用try-except硬扛!这7种RFC 8259兼容性兜底方案已通过千万级QPS验证

更多请点击: https://intelliparadigm.com 第一章:ChatGPT JSON格式异常的根源与危害 JSON 格式异常是 ChatGPT API 集成中最隐蔽却最致命的故障之一。当模型输出未严格遵循 RFC 8259 规范时,下游解析器会立即中断执行,导致服务雪…

2026/7/12 0:13:17 阅读更多 →
【VCD】A Fast Partial Video Copy Detection Using KNN and Global Feature Database

【VCD】A Fast Partial Video Copy Detection Using KNN and Global Feature Database

note 通过巧妙的系统工程优化(KNN 索引 Transformer 特征增强 约束化网络流),成功解决了深度学习特征在大规模视频拷贝检索中“算得慢、存不下”的落地难题。局限与启发:尽管性能大幅提升,但系统高度依赖抽帧频率&a…

2026/7/12 0:09:16 阅读更多 →

日新闻

互联网大厂 Java 求职面试:燕双非的搞笑回答与技术探讨

互联网大厂 Java 求职面试:燕双非的搞笑回答与技术探讨

互联网大厂 Java 求职面试:燕双非的搞笑回答与技术探讨 在一个阳光明媚的上午,互联网大厂的面试官坐在桌前,准备迎接他的面试候选人——燕双非,一个以搞笑和幽默著称的程序员。第一轮提问 面试官:燕双非,作…

2026/7/12 0:03:13 阅读更多 →
车载以太网PMA测试设备选型:示波器、VNA、信号源3类仪器关键参数与预算评估

车载以太网PMA测试设备选型:示波器、VNA、信号源3类仪器关键参数与预算评估

车载以太网PMA测试设备选型:示波器、VNA、信号源3类仪器关键参数与预算评估在智能驾驶和车联网技术快速发展的今天,车载以太网作为新一代车载网络的核心传输技术,其物理层性能直接决定了数据传输的可靠性和稳定性。1000BASE-T1作为当前主流的…

2026/7/12 0:03:14 阅读更多 →
VSCode EIDE 插件 2.0:APM32/STM32 项目迁移实战,5步完成Keil工程转换

VSCode EIDE 插件 2.0:APM32/STM32 项目迁移实战,5步完成Keil工程转换

VSCode EIDE 插件 2.0:APM32/STM32 项目迁移实战指南嵌入式开发领域正经历一场工具链的静默革命。当传统Keil用户首次打开VSCode的扩展市场搜索EIDE时,往往会惊讶于这个看似简单的插件竟能重构十余年的开发习惯。本文将揭示如何用五个精准步骤&#xff0…

2026/7/12 0:03:14 阅读更多 →

周新闻

互联网大厂 Java 求职面试:燕双非的搞笑回答与技术探讨

互联网大厂 Java 求职面试:燕双非的搞笑回答与技术探讨

互联网大厂 Java 求职面试:燕双非的搞笑回答与技术探讨 在一个阳光明媚的上午,互联网大厂的面试官坐在桌前,准备迎接他的面试候选人——燕双非,一个以搞笑和幽默著称的程序员。第一轮提问 面试官:燕双非,作…

2026/7/12 0:03:13 阅读更多 →
车载以太网PMA测试设备选型:示波器、VNA、信号源3类仪器关键参数与预算评估

车载以太网PMA测试设备选型:示波器、VNA、信号源3类仪器关键参数与预算评估

车载以太网PMA测试设备选型:示波器、VNA、信号源3类仪器关键参数与预算评估在智能驾驶和车联网技术快速发展的今天,车载以太网作为新一代车载网络的核心传输技术,其物理层性能直接决定了数据传输的可靠性和稳定性。1000BASE-T1作为当前主流的…

2026/7/12 0:03:14 阅读更多 →
VSCode EIDE 插件 2.0:APM32/STM32 项目迁移实战,5步完成Keil工程转换

VSCode EIDE 插件 2.0:APM32/STM32 项目迁移实战,5步完成Keil工程转换

VSCode EIDE 插件 2.0:APM32/STM32 项目迁移实战指南嵌入式开发领域正经历一场工具链的静默革命。当传统Keil用户首次打开VSCode的扩展市场搜索EIDE时,往往会惊讶于这个看似简单的插件竟能重构十余年的开发习惯。本文将揭示如何用五个精准步骤&#xff0…

2026/7/12 0:03:14 阅读更多 →

月新闻