Nas 的天空
  • Home
  • Mac
  • Nas
  • Python
  • Ai-Studio
  • Other
  • Home
  • Mac
  • Nas
  • Python
  • Ai-Studio
  • Other
  1. 首页
  2. 标签
  3. llama.cpp
榨干 Apple Silicon 统一内存:Mac 部署本地大模型与长文本吞吐调优实战

Mac 榨干 Apple Silicon 统一内存:Mac 部署本地大模型与长文本吞吐调优实战

实测 Apple Silicon M系列芯片统一内存潜能,详解如何突破 macOS 默认 75% 显存分配硬限制,深度对比 llama.cpp 与 Apple 原生 MLX 引擎在长上下文与高量化下的推理吞吐,包含 KV Cache 量化、Metal 编译调优与生产级常驻脚本全配置。

2次阅读 0个评论
Mac 近一天内
Mac 压榨 Apple Silicon 统一内存:从 Ollama 迁移到 llama-server 构建高并发本地 LLM 网关

Mac Mac 压榨 Apple Silicon 统一内存:从 Ollama 迁移到 llama-server 构建高并发本地 LLM 网关

本文记录了一台 64G 内存的 M3 Max Mac 从 Ollama 迁移到原生 llama-server 的调优历程。深入剖析 Apple Silicon 统一内存的显存分配机制,通过破解 wired_mem_limit 突破显存阈值,结合 KV Cache 量化、连续批处理(Continuous Batching)与多 Slot 并发配置,实现长上下文与多 Agent 并发场景下的推理吞吐翻倍。

13次阅读 0个评论
Mac 近两天内
压榨 Apple Silicon 统一内存:MLX 与 llama.cpp 吞吐实测、显存破解与 Agent 部署

Mac 压榨 Apple Silicon 统一内存:MLX 与 llama.cpp 吞吐实测、显存破解与 Agent 部署

实战拆解 Apple Silicon (M系列) 统一内存运行本地大模型的性能极限。本文详解如何破解 macOS 默认 75% GPU 显存限制,横向压测 llama.cpp 与 MLX 在 Qwen2.5/DeepSeek 上的真实吞吐,并提供基于 FastAPI 的生产级流式 Agent 代理与避坑配置。

26次阅读 0个评论
Mac 四天前
榨干 Apple Silicon:基于 MLX 与 llama.cpp 的 Mac 本地大模型高吞吐调优实战

Mac 榨干 Apple Silicon:基于 MLX 与 llama.cpp 的 Mac 本地大模型高吞吐调优实战

拥有一台大内存的 Mac Studio 或 MacBook Pro 却还在用默认配置跑 Ollama?本文手把手带你破解 macOS 默认显存上限,深度对比 llama.cpp 与苹果原生 MLX 框架,榨干统一内存带宽,搭建低延迟、高并发的本地大模型推理服务。

58次阅读 0个评论
Mac 2026-11-01
Mac本地跑大模型显存崩了?MLX + llama.cpp双引擎调优与驻留运维实战

Mac Mac本地跑大模型显存崩了?MLX + llama.cpp双引擎调优与驻留运维实战

针对Apple Silicon统一内存架构,深度对比MLX与llama.cpp本地推理吞吐表现。提供macOS环境下突破内存锁死限制(iogpu.wired_mem_limit)、4-bit量化精度选型、Launchd后台无感驻留与高并发OpenAI兼容API封装的完整极客实操方案。

95次阅读 0个评论
Mac 2026-10-26
榨干Apple Silicon:Mac用MLX与llama.cpp本地跑大模型深度调优与避坑实录

Mac 榨干Apple Silicon:Mac用MLX与llama.cpp本地跑大模型深度调优与避坑实录

手把手教你在 Apple Silicon(M系列芯片)Mac 上榨干统一内存性能。本文对比评测 llama.cpp 与 Apple 原生 MLX 框架在 4-bit 量化、KV Cache 与长上下文并发下的推理表现,深入拆解 macOS 统一内存显存分配锁、Metal 算子加速配置与 launchd 无头后台服务化部署,附全套实操脚本与避坑指南。

186次阅读 0个评论
Mac 2026-10-24
榨干 Mac 统一内存:基于 MLX 与 llama.cpp 的本地大模型高并发部署与避坑指南

Mac 榨干 Mac 统一内存:基于 MLX 与 llama.cpp 的本地大模型高并发部署与避坑指南

深入剖析 Apple Silicon 统一内存机制与 macOS 显存分配策略。实测如何突破系统默认的 75% 显存锁定限制,对比 MLX 与 llama.cpp 在 M 系列芯片上的真实吞吐表现,并附带 production-ready 的 launchd 常驻服务与温控优化配置。

89次阅读 0个评论
Mac 2026-10-23
榨干 Apple Silicon 统一内存:Mac 部署 32B 大模型深度调优与 MLX 实战指南

Mac 榨干 Apple Silicon 统一内存:Mac 部署 32B 大模型深度调优与 MLX 实战指南

打破 macOS 默认 75% 显存配额锁死限制,深度调优 Apple Silicon 统一内存带宽。本文基于 M 系列芯片实测,对比 MLX 与 llama.cpp 在高上下文下的吞吐表现,分享绕过 OOM 的 sysctl 内核调优、KV Cache 量化技巧,并使用 launchd 将 Mac 打造成低功耗、全天候响应的本地 OpenAI 兼容推理网关。

150次阅读 0个评论
Mac 2026-10-21
NAS低功耗运行Local Agent:llama.cpp RPC集群与NAS私有知识库落地方案

Nas NAS低功耗运行Local Agent:llama.cpp RPC集群与NAS私有知识库落地方案

很多NAS玩家想在私有存储上跑本地大模型和Agent工作流,却苦于低功耗CPU算力羸弱。本文实录如何利用NAS的NVMe存储与Docker底座,通过llama.cpp分布式RPC协议将NAS与局域网闲置GPU打通,结合轻量向量引擎构建低功耗、全天候可用的私有化Local Agent流水线。

123次阅读 0个评论
Nas 2026-10-13
Mac 本地部署 DeepSeek-R1 最佳实践:MLX vs llama.cpp 性能压测与显存优化

Mac Mac 本地部署 DeepSeek-R1 最佳实践:MLX vs llama.cpp 性能压测与显存优化

在 Apple Silicon(M系列)芯片上本地跑大模型,还在无脑开 Ollama 默认配置?本文基于 M3 Max 与 M2 真实环境,深入对比 llama.cpp 与 Apple 原生 MLX 框架在量化精度、显存占用及推理吞吐量(Token/s)上的实测差异,附带统一内存上限解锁、Metal 编译调优与守护进程自动化配置指南。

132次阅读 0个评论
Mac 2026-10-07
  • 1
  • 2
  • »
Nas 的天空
Nas 的天空
点亮思维火花,畅享数字世界
用户数
1
文章数
555
评论数
21
阅读量
202473
Latest articles
自建生产级LLM网关:vLLM + LiteLLM 搭建高并发流式代理与避坑实录

自建生产级LLM网关:vLLM + LiteLLM 搭建高并发流式代理与避坑实录

单台工作站或多卡服务器如何抗住高并发流式推理?本文基于真实踩坑记录,深度拆解使用 vLLM 搭配 LiteLLM 构建私有高可用模型网关的完整链路,涵盖 PagedAttention 调优、流式 SSE 缓冲防断连、多节点故障转移与压测实测数据。
榨干 Apple Silicon 统一内存:Mac 部署本地大模型与长文本吞吐调优实战

榨干 Apple Silicon 统一内存:Mac 部署本地大模型与长文本吞吐调优实战

实测 Apple Silicon M系列芯片统一内存潜能,详解如何突破 macOS 默认 75% 显存分配硬限制,深度对比 llama.cpp 与 Apple 原生 MLX 引擎在长上下文与高量化下的推理吞吐,包含 KV Cache 量化、Metal 编译调优与生产级常驻脚本全配置。
单卡4090榨干指南:vLLM与LiteLLM部署DeepSeek-R1蒸馏版及高并发网关实战

单卡4090榨干指南:vLLM与LiteLLM部署DeepSeek-R1蒸馏版及高并发网关实战

单张RTX 4090跑32B大模型如何避免OOM?本文深入实测vLLM底层显存控制、PagedAttention机制调优,结合LiteLLM搭建支持流式SSE高并发代理与自动降级容灾网关,给出可直接抄作业的Docker配置与压测避坑方案。
Python构建高并发LLM流式网关:FastAPI与HTTPX背压与内存泄露避坑实录

Python构建高并发LLM流式网关:FastAPI与HTTPX背压与内存泄露避坑实录

在自建大模型API聚合网关时,很多开发者用Python转发SSE流都会踩入内存暴涨与断流的坑。本文实测剖析FastAPI配合HTTPX构建零拷贝流式管道的关键技术,解决慢客户端背压失控、连接池泄漏与反代超时三大痛点。
FastAPI 构建生产级 LLM 流式代理:解决连接泄漏、假死与断连背压

FastAPI 构建生产级 LLM 流式代理:解决连接泄漏、假死与断连背压

在用 FastAPI 搭建 LLM 聚合网关或转发流式响应(SSE)时,常会遭遇连接池耗尽、客户端提前断开导致后台空转、Nginx 缓冲吃掉首字延迟等暗坑。本文记录从事故排查到架构重构的完整过程,提供带断连检测与连接复用的工业级代码方案。
Popular articles
Python 高效爬虫实战:requests+BeautifulSoup 避坑与优化全攻略

Python 高效爬虫实战:requests+BeautifulSoup 避坑与优化全攻略

在数字信息爆炸的时代,从海量互联网数据中提取有价值信息已成为许多领域的核心需求。Python 以其简洁、强大的...
用 Python 驾驭 JSON/XML 数据:高效解析与灵活转换的实践指南

用 Python 驾驭 JSON/XML 数据:高效解析与灵活转换的实践指南

引言:数据时代的基石——JSON 与 XML 在当今信息爆炸的时代,数据是驱动一切的核心。无论是 Web AP...
Python基础入门 Day141 异步系统中的优先级调度与资源分配:让重要任务先完成

Python基础入门 Day141 异步系统中的优先级调度与资源分配:让重要任务先完成

在上一节中,我们系统梳理了异步任务从创建到完成的完整生命周期。本篇将在此基础上,继续解决一个在真实工程中必然出...
Python基础入门 Day136 高并发系统核心:消息队列思想与异步解耦

Python基础入门 Day136 高并发系统核心:消息队列思想与异步解耦

在完成异步任务平台的基本架构之后,我们会很快遇到一个系统级瓶颈:组件之间的耦合开始限制系统扩展能力 。本篇将围...
Python 正则表达式完全指南:掌握复杂匹配,解锁高级数据处理能力 | 实战案例解析

Python 正则表达式完全指南:掌握复杂匹配,解锁高级数据处理能力 | 实战案例解析

在 Python 的世界里,正则表达式(Regular Expressions,简称 RegEx)是处理字符串...
Copyright©2013-2025 Nas的天空 nassky.top 版权所有
 Theme by Puock