Python - 第32页 - Nas 的天空

Python 从零开始：爬虫入门与实践全攻略

🚀 引言：数据时代的“情报员”——网络爬虫在这个信息爆炸的时代，数据已成为驱动创新和决策的核心引擎。从市场分…

Python Python基础入门 Day52：使用 FastAPI 实现 JWT 用户认证

为了保护接口安全，我们可以使用 JWT（JSON Web Token）实现用户身份认证。本节介绍如何使用 Fa…

Python Python基础入门 Day51：FastAPI 与 SQLite 实现完整数据接口

FastAPI 与数据库集成，能够快速实现具有数据持久化功能的 Web 接口。本节将使用 SQLAlchemy…

Python Python基础入门 Day50：使用 FastAPI 构建现代 Web API 服务

FastAPI 是一个用于构建 API 的现代、快速（高性能）Web 框架，它基于 Python 3.7+ 的…

Python Python基础入门 Day49：使用 aiohttp 搭建异步 Web 服务

在上一节我们学习了 aiohttp 的客户端功能，今天我们将使用 aiohttp 的服务端模块来搭建一个简单的…

Python Python基础入门 Day48：aiohttp 异步 HTTP 请求实战

在上一节我们学习了 asyncio 的基础用法，今天我们将继续探索异步编程领域的强大工具 —— aiohttp…

Python Python基础入门 Day47：asyncio 初识与异步编程模型

随着网络编程与高并发场景的普及，传统同步阻塞模型已无法满足效率要求。Python 从 3.4 开始引入 asy…

Python Python基础入门 Day46：使用 select 实现多路复用网络通信

在网络编程中，如果我们希望一个服务器同时响应多个客户端连接请求，并在各自的连接中处理数据，最简单的方式是为每个…

Python Python基础入门 Day45：Socket网络编程入门

在今天的 Day45 中，我们将开始学习 Python 的网络编程，掌握使用 Socket 模块进行 TCP …

Python 🚀实战指南：用 Jieba 提取中文文章关键词，轻松搞定文本分析！

在自然语言处理（NLP）领域，关键词提取是文本分析的重要步骤之一。今天，我们将实战演练如何使用 Python …

Nas 的天空

点亮思维火花，畅享数字世界

用户数

文章数

474

评论数

阅读量

179109

NAS 性能榨汁：ZFS Special VDEV 元数据加速实操，解救 Docker 与向量库小文件 IOPS 瓶颈

机械硬盘池跑 Docker、海量相册和本地 RAG 向量库时，IOPS 瓶颈常导致磁头疯狂寻道。本文详解如何在 Linux/TrueNAS ZFS 池中无损挂载 NVMe Special Metadata VDEV，实现元数据与指定大小文件的固态分流加速，附实测 fio 数据与存量迁移避坑指南。

vLLM高并发流式推理实战：Qwen2.5多卡部署、PagedAttention调优与Nginx SSE排坑

记录一次私有化算力节点部署Qwen-2.5-32B并接入生产级API网关的硬核实操。深入拆解vLLM多卡Tensor Parallelism配置、KV Cache显存极限压榨技巧，并彻底解决Nginx流式响应（SSE）缓冲导致的卡顿深坑，附完整Docker编排与压测对比。

Python高并发LLM流式代理实战：基于FastAPI与httpx解决SSE背压与内存泄露

在给内部搭建大模型API聚合网关或转发流式响应（SSE）时，直接透传数据流极易踩中连接池耗尽、客户端非正常断开导致协程泄露与内存暴涨的暗坑。本文记录我用FastAPI与httpx构建高并发LLM流式网关的生产级方案，包含异步生成器背压处理、客户端断开即时中断以及Uvicorn调优实测。

单卡跑满Qwen2.5-72B量化版：vLLM多并发流式推理与显存压榨实录

单张消费级或入门级算力卡如何跑满开源顶流大模型？本文记录了基于 vLLM 部署 Qwen2.5-72B-Instruct-GPTQ-Int4 的全流程。包含 PagedAttention 显存优化参数深度拆解、高并发 Server-Sent Events（SSE）流式网关配置、TTFT 延迟压测数据对比及生产级 OOM 避坑调优指南。