DOC软件文档百宝箱

手机跑本地大模型入门

QPython 集成了 Ollama 框架,可以把 Llama 3.3、DeepSeek-R1、Phi-4 这类开源大语言模型装进安卓手机离线运行。讲清怎么按机型选模型、怎么验证跑通,以及哪些预期要提前收一收。相关文档:手机Python环境怎么选 · pip装库失败怎么解决


一、手机上跑大模型,现实吗

分两头说:小参数模型是现实可行的——0.5B 到 2B 这一档的模型,在近几年的中端机上能跑出可用的回答速度;几十 B 的大模型就别指望了——手机内存与算力摆在那里,加载都费劲。

QPython 的价值在于把门槛降到了应用内:它集成了 Ollama 框架,不用自己搭环境、配推理框架,装好应用后模型清单与入口都在界面里,具体支持哪些模型以你手上这一版的实际显示为准。

按商店页简介的口径(随版本会调整),下列模型在支持之列:

想先了解这个环境本身长什么样、都有哪些能力,可以从QPython 安卓版介绍站看起,那里整理了功能梳理与真实界面截图。

二、按机型选模型的思路

没有统一的「最低配置表」,按这三条原则选,基本不会踩坑:

  1. 从最小参数级起步。先跑一个 0.5B 级的模型,确认整条链路通、熟悉下载与加载流程,再逐级往上试 1.5B、2B。
  2. 内存是第一约束。模型权重要整份装进内存,手机剩余可用内存不足时,加载会直接失败或被系统杀掉。跑之前清一清后台,关掉省电限制。
  3. 首轮让它做小事。第一次跑通时问个短问题,确认「下载 → 加载 → 推理 → 输出」整条链没问题,再去试长对话。

三、跑通后的验证清单

  1. 应用内能看到模型入口,模型文件下载完整(中断过的下载容易加载失败,删掉重下)。
  2. 发一个短提示,能稳定收到回答——说明推理链路通了。
  3. 断网再试一轮:本地模型的卖点就是离线可用,飞行模式下还能正常回答,才算真的跑在本机。

四、预期管理:它擅长什么、不擅长什么

模型下载与加载若卡住,多半是网络与存储问题,装库那套排查思路(镜像、空间、权限)同样适用,见 pip装库失败怎么解决;环境本身还没装好的,先回 手机Python环境怎么选 把版本认准。

同站更多