你好，我是邢云阳。 在上节课中，我们学习了 DeepSeek 官方在做私有化部署时，推荐的一个工具，也就是 vLLM。通过学习 vLLM，想必你对分布式部署是怎么回事儿，已经有了初步感知。 今天，我们将学习另一个组件——Ray。随后，我们将在一台配备...

你好，我是邢云阳。 前面两节课，我们完成了私有化部署的入门。我们学到了一种非常简单的易上手的方案，即利用网关 + 多个 Ollama 实现负载均衡的大模型集群的方案。这种方案的本质还是单卡单模型，但通过负载均衡技术，可以将一次对话任务，分配到多个模型...

你好，我是邢云阳。 前面的两节课，我使用 Docker 的方式，在服务器上为你演示了基于 Ollama 的量化版 DeepSeek 的部署。虽然 Docker 容器的方式运行简单，一条 docker 命令便可以拉起，但通常只能够运用在测试环境，供研发...

你好，我是邢云阳。 在上一节课，我们使用 Ollama 部署了一个 DeepSeek-R1:32B 的模型，并通过修改聊天模板，完成了让模型强制 think 的修改。今天这节课，我们继续上一节课的思路，完成多 Ollama 实例的负载均衡的配置，使之...

你好，我是邢云阳。 学完我专门为你准备的前置课程，相信对于目前主流的 AI 开发到底是在开发什么，你已经有了一定的认知，这对于你学习后面的课程会有很大的帮助。 从这一章起，我会为你揭秘在云公司里，针对不同的用户场景，DeepSeek 模型是如何部署的...

你好，我是邢云阳。 上节课，我们学习了DeepSeek如何开通与使用，不知道你是不是已经尝试了它的官方对话模式呢？ 不过经常使用 AI 的同学可能会发现，即便 DeepSeek 这样大模型里的佼佼者，也不是万能的。有很多内容其实它是回答不了的。特别是...

你好，我是邢云阳。 飞雪连天射白鹿，笑书神侠倚碧鸳。金庸老先生的著作人物众多，武学精妙绝伦，剧情跌宕起伏，非常吸引人。我在上大学时，曾经两天时间就读完了《射雕英雄传》。 恰逢最近 DeepSeek 模型爆火，“模型蒸馏”这个专业名词也频繁出现在大众视...

你好，我是邢云阳。 不知道大家 2025 年过得怎么样？反正我是没怎么过好，春节开始就忙得很。起因就是 DeepSeek 这货在春节前突然就成了网红了。红到什么程度呢？过年走亲戚，听到最多的就是俩词——哪吒和 DeepSeek。连我 58 岁的大爷都...

你好，我是邢云阳。 当主编老师告诉我要为这门《AI重塑云原生应用开发》课程的结束语设计一个主题时，我脑海中立即浮现出2018年世界杯预选赛的经典画面——里皮站在场边，镜片后的目光穿透喧嚣的绿茵场，用战术调整让赛前不被看好中国队力克韩国队，打破了恐韩症...

你好，我是邢云阳。 时代的车轮滚滚向前，技术的浪潮一波接一波。几年前，我还专注于容器化大数据平台的构建，思考如何在云原生架构下优化资源调度、提升计算效率。而彼时的 AI，虽然已有深度学习的浪潮，但更多还停留在实验室和少数企业的探索阶段。没想到，短短一...