https://socake.github.io/categories/%E5%A4%A7%E6%A8%A1%E5%9E%8B/Recent content in 大模型 on 黄文卓 | DevOps EngineerHugo -- gohugo.iozh-CN17691281867@163.com (Wenzhuo Huang)17691281867@163.com (Wenzhuo Huang)© 2026 Wenzhuo HuangMon, 09 Mar 2026 13:37:00 +0800https://socake.github.io/posts/multimodal-llm-vision-practice/Mon, 09 Mar 2026 13:37:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/multimodal-llm-vision-practice/覆盖主流多模态模型选型对比、图像理解API调用方式、OCR/文档理解/图表解析等实际场景，以及一个完整的运维场景实战：用多模态模型自动分析Grafana截图并生成告警摘要。https://socake.github.io/posts/prompt-engineering-guide/Mon, 09 Mar 2026 11:37:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/prompt-engineering-guide/Prompt Engineering 不是玄学，而是有规律可循的工程实践。从基础技巧到企业级工程化，本文覆盖提示词设计的完整方法论，包括 A/B 测试、版本管理、失效模式分析，以及在生产系统中管理提示词的最佳实践。https://socake.github.io/posts/openai-api-engineering/Tue, 03 Mar 2026 11:41:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/openai-api-engineering/OpenAI API 是大多数 LLM 应用开发者的起点，但从 Hello World 到真正可靠的生产系统，中间有很多工程细节需要处理。本文覆盖 Function Calling、Structured Output、Batch API、Embeddings 的完整实践，以及速率限制、错误处理和成本控制的系统方案。https://socake.github.io/posts/claude-api-development-guide/Tue, 24 Feb 2026 11:26:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/claude-api-development-guide/Claude API 的设计哲学和 OpenAI 有些不同，但一旦理解其模式，就会发现它在长文本、代码生成和工具调用上非常可靠。本文覆盖从 SDK 配置到 Prompt Caching、Tool Use、Vision 的完整开发实践，以及生产中的错误处理与成本控制策略。https://socake.github.io/posts/langgraph-workflow-orchestration/Sun, 15 Feb 2026 12:44:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/langgraph-workflow-orchestration/从LangChain Chain的局限出发，讲清楚LangGraph的状态机模型、Graph/Node/Edge的设计方式，以及条件分支、循环、人工介入、Checkpoint持久化的工程实现，最后用一个运维诊断工作流串起来所有概念。https://socake.github.io/posts/langfuse-llm-observability/Sat, 14 Feb 2026 11:44:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/langfuse-llm-observability/讲清楚为什么LLM应用必须要可观测性，以及如何用Langfuse从链路追踪、Prompt版本管理、评估实验到成本分析做到全覆盖，包含Docker自托管部署和Python SDK完整集成示例。https://socake.github.io/posts/langchain-practical-guide/Mon, 09 Feb 2026 11:01:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/langchain-practical-guide/LangChain 是构建 LLM 应用最流行的框架，但也是踩坑最多的框架之一。本文从 LCEL 表达式、ReAct Agent、LangGraph 工作流到生产部署，梳理真正有用的部分，并指出哪些功能实际工程中应该避免。https://socake.github.io/posts/rag-evaluation-ragas/Thu, 05 Feb 2026 10:20:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/rag-evaluation-ragas/RAG 系统上线后，‘感觉回答质量还不错’不是一个可持续的评估方式。RAGAS 提供了一套可量化的评估框架，让你能追踪 Faithfulness、Answer Relevancy 等指标随时间的变化，并在每次改动后自动验证系统质量没有退化。https://socake.github.io/posts/llm-finetuning-lora-practice/Wed, 14 Jan 2026 09:56:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/llm-finetuning-lora-practice/什么时候该微调、什么时候该用提示工程？本文给出决策框架，然后用Unsloth+QLoRA实战微调Qwen2.5-7B，覆盖数据格式、训练监控、权重合并、部署到vLLM测试，以及10个真实踩坑记录。https://socake.github.io/posts/llm-landscape-2025/Fri, 09 Jan 2026 13:50:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/llm-landscape-2025/GPT-5.4、Claude Opus 4.6、Gemini 2.5 Pro、Llama 4 Scout、DeepSeek V3.2——2026年4月的大模型格局已经和一年前完全不同。本文从工程师视角梳理当前主力模型的真实规格与适用边界，给出场景化选型矩阵，并讨论开源追平闭源、推理模型标配化、agent workload 崛起这三个2026年的核心判断。https://socake.github.io/posts/llm-core-concepts/Mon, 17 Nov 2025 11:37:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/llm-core-concepts/同事第一次用 GPT-4 API 写代码时问我：为什么我发了一段中文，token 消耗比英文多那么多？为什么模型有时候会一本正经地胡说八道？这篇文章把我认为工程师必须理解的 LLM 概念系统整理了一遍，不涉及 Transformer 数学，只讲对你写代码有帮助的部分。https://socake.github.io/posts/rag-system-design-practice/Tue, 11 Nov 2025 11:41:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/rag-system-design-practice/RAG（检索增强生成）是目前企业落地 LLM 最主流的方式。本文覆盖 RAG 系统的完整设计：文档处理管线、分块策略、向量检索与关键词混合检索、Rerank 重排序、上下文压缩，以及用 RAGAS 框架评估 RAG 质量，最后分享生产环境踩坑记录。https://socake.github.io/posts/milvus-vector-database-practice/Thu, 06 Nov 2025 09:52:00 +080017691281867@163.com (Wenzhuo Huang)https://socake.github.io/posts/milvus-vector-database-practice/覆盖向量数据库选型对比（Milvus/Qdrant/Weaviate/pgvector）、Milvus Standalone与Cluster部署、Collection Schema设计、HNSW/IVF_FLAT索引调优、混合搜索实战，以及生产环境常见问题处理。