楼主:
k9120303 (k9120303)
2025-05-03 01:14:14AI揭露:本文有部分段落使用ChatGPT生成,再经笔者润稿,若有错误请再告知。
小弟现在使用的是五年前的旧手机 VIVO iQOO Neo3(12GB+128GB),高通骁龙865,
今天主要是要介绍两个开源AI APP,让旧手机也能轻松在本地布署AI模型,无需连网!
1. PocketPal AI
https://github.com/a-ghorbani/pocketpal-ai
PocketPal AI 是一款专为 Android 装置设计的离线 AI 助手应用程式,
支援加载 GGUF 格式的小型语言模型(SLMs),如 Qwen、Gemma、Phi 等,
让使用者在无网络连线的情况下也能与 AI 互动。
所有推理运算皆在本机执行,确保资料隐私。
应用程式提供模型下载、切换、性能测试、个性化 AI 助手(Pals)等功能,
并可透过 Hugging Face 直接搜寻与管理模型,适合开发者与 AI 爱好者使用。
这边推荐使用Q8量化过的Google Gemma 3 1B,
繁体中文使用友善,是个人觉得最聪明的小语言模型,没有之一。
https://i.imgur.com/6CBwxJk.png
2. Stable Diffusion AI (SDAI)
https://github.com/ShiftHackZ/Stable-Diffusion-Android
(F-Droid上的SDAI FOSS版本没有广告)
SDAI是一款让 Android 装置可离线执行 Stable Diffusion 的应用程式。
支援完整原生 Python 环境与 Web UI,
可本地生成 AI 图像,支援模型自订与提示词输入。
最新版更整合 Microsoft ONNX Runtime(Beta),
可透过 ONNX 模型加速推论,提升效能与相容性,
让用户在手机上体验 AI 图像生成,无需依赖云端或电脑。
发现这APP的时候满惊艳的,有稍微研究过的人就知道,
图像生成模型不只布署上麻烦,更需要较强的算力(尤其很吃VRAM),
这APP直接帮你弄好8种环境,还有提供编译过的ONNX模型供离线使用,非常友善!
https://i.imgur.com/CXEkqav.png
本篇仅是抛砖引玉,虽然距离实用性还有一段不小的距离,
但可以无限生成且不会被卡Prompt限制!也欢迎各位分享使用心得~