在1GB内存的手机上5分钟内运行Gemma模型
无需联网的本地AI:安装PocketPal AI并加载精简版Gemma模型
- 1.从Google Play或App Store安装PocketPal AI应用。安装完成后打开应用。
应用免费且可离线使用。iOS用户请在App Store搜索「PocketPal AI」,安卓用户请在Google Play搜索。
PocketPal AI ↗ - 2.首次启动时应用会请求权限,请点击Allow/允许。在主屏幕打开Models(模型)选项卡(立方体图标或底部标签页)。
如果应用首次启动时提示下载模型,请选择「Choose manually」(手动选择),以便自行选择轻量版本。
PocketPal AI ↗ - 3.在Models部分找到GGUF格式的Gemma 2B或Gemma 2 2B Instruct,量化版本选Q4_K_M或Q3_K_S。点击模型,然后点击Download/下载。
1GB内存需要不超过1.5-1.8GB的模型。Q4_K_M版本约1.6GB,Q3_K_S约1.3GB。如果下载速度慢,请连接Wi-Fi。
Hugging Face(通过PocketPal) ↗ - 4.下载完成后,返回主屏幕(Chat选项卡)。在顶部下拉列表中选择已下载的Gemma模型。开始对话,发送第一个提示词。
首次请求可能需要30-60秒:模型正在加载到内存。后续回复会更快。
PocketPal AI ↗提示词你是一个有用的助手。请用中文回答。用一句话简单解释量子计算,让10岁的孩子也能理解。
这个提示词的作用这个提示词为模型设定角色,并要求用一句简单的中文解释量子计算。你可以将「量子计算」替换为任何主题,例如「光合作用」或「VPN如何工作」。 - 5.确认网络已断开(开启飞行模式)。再发送一条请求,模型应该能在无网络连接的情况下回复。
如果模型无响应或崩溃,请尝试Q3_K_S量化版本,或在Settings → Inference → Context length中将上下文长度减少到1024。
PocketPal AI ↗提示词给我5个在我所在城市100公里范围内的周末出行建议。
这个提示词的作用要求模型提供5个在你所在城市100公里范围内的周末出行建议。回复默认为中文,如需其他语言可在提示词末尾添加相应要求。
💰 跟着做需要花多少钱价格截至 2026-08
- 免费PocketPal应用完全免费,无订阅和广告;所有处理都在手机本地完成。
- 免费Hugging Face(模型下载)通过网页和应用下载GGUF模型免费,无需注册;唯一花费是600-800MB的移动流量。
试一试，做第一个打卡的人
为什么是今天
每周攻略发到邮箱
AI 服务变化很快 - 界面和免费额度可能与描述有所不同。