Nas 的天空
点亮思维火花，畅享数字世界
用户数
1
文章数
474
评论数
21
阅读量
178942
Latest articles
生产级高并发 LLM 推理网关实战：vLLM 与 SGLang 压测选型与长上下文显存避坑
长文本多轮对话与高并发场景下，PagedAttention 与 RadixAttention 到底怎么选？本文结合两台 8×A100 集群实测，详解 vLLM 与 SGLang 吞吐瓶颈、SSE 流式连接泄漏治理及生产级反向代理核心调优经验。
NAS 性能榨汁：ZFS Special VDEV 元数据加速实操，解救 Docker 与向量库小文件 IOPS 瓶颈
机械硬盘池跑 Docker、海量相册和本地 RAG 向量库时，IOPS 瓶颈常导致磁头疯狂寻道。本文详解如何在 Linux/TrueNAS ZFS 池中无损挂载 NVMe Special Metadata VDEV，实现元数据与指定大小文件的固态分流加速，附实测 fio 数据与存量迁移避坑指南。
vLLM高并发流式推理实战：Qwen2.5多卡部署、PagedAttention调优与Nginx SSE排坑
记录一次私有化算力节点部署Qwen-2.5-32B并接入生产级API网关的硬核实操。深入拆解vLLM多卡Tensor Parallelism配置、KV Cache显存极限压榨技巧，并彻底解决Nginx流式响应（SSE）缓冲导致的卡顿深坑，附完整Docker编排与压测对比。
Python高并发LLM流式代理实战：基于FastAPI与httpx解决SSE背压与内存泄露
在给内部搭建大模型API聚合网关或转发流式响应（SSE）时，直接透传数据流极易踩中连接池耗尽、客户端非正常断开导致协程泄露与内存暴涨的暗坑。本文记录我用FastAPI与httpx构建高并发LLM流式网关的生产级方案，包含异步生成器背压处理、客户端断开即时中断以及Uvicorn调优实测。
单卡跑满Qwen2.5-72B量化版：vLLM多并发流式推理与显存压榨实录
单张消费级或入门级算力卡如何跑满开源顶流大模型？本文记录了基于 vLLM 部署 Qwen2.5-72B-Instruct-GPTQ-Int4 的全流程。包含 PagedAttention 显存优化参数深度拆解、高并发 Server-Sent Events（SSE）流式网关配置、TTFT 延迟压测数据对比及生产级 OOM 避坑调优指南。
Popular articles
Python 高效爬虫实战：requests+BeautifulSoup 避坑与优化全攻略
在数字信息爆炸的时代，从海量互联网数据中提取有价值信息已成为许多领域的核心需求。Python 以其简洁、强大的...
用 Python 驾驭 JSON/XML 数据：高效解析与灵活转换的实践指南
引言：数据时代的基石——JSON 与 XML 在当今信息爆炸的时代，数据是驱动一切的核心。无论是 Web AP...
Python基础入门 Day141 异步系统中的优先级调度与资源分配：让重要任务先完成
在上一节中，我们系统梳理了异步任务从创建到完成的完整生命周期。本篇将在此基础上，继续解决一个在真实工程中必然出...
Python基础入门 Day136 高并发系统核心：消息队列思想与异步解耦
在完成异步任务平台的基本架构之后，我们会很快遇到一个系统级瓶颈：组件之间的耦合开始限制系统扩展能力 。本篇将围...
Python 正则表达式完全指南：掌握复杂匹配，解锁高级数据处理能力 | 实战案例解析
在 Python 的世界里，正则表达式（Regular Expressions，简称 RegEx）是处理字符串...