PocketPal也被叫做PocketPalAI,是专为手机用户打造的专属AI助手,帮助用户轻松进行各种生活日常的问题解决,而且软件自带离线使用功能,在离线的情况下也可以对DeepSeek、Phi、Gemma、Qwen等各种AI模型进行提问,十分方便快捷。而且软件所占内存小,低配置手机也能够轻松下载适用。
PocketPal官网地址:https://pocketpal.dev/
PocketPal怎么设置中文
1、打开PocketPal软件,点击左上角的三横
2、点击setting
3、下滑页面,点击如图所示的English,然后点击中文
4、切换后页面就是中文显示了
PocketPal怎么离线使用
1、用户可以在app中直接下载模型,下载时需要连接到互联网
2、比如这里可以下载到谷歌ai大模型Gemma,阿里通义千问的大模型Qwen等
3、其它ai大模型,比如DeepSeek的可以点击右下角的添加按钮,将手机里下载好的模型加载进来即可
4、模型加载后设置完成后可进入设置界面进行相关设置,设置完成后即可进行诸如随时随地与模特进行私密的离线对话等相关操作
PocketPal怎么添加DeepSeek模型
1、打开后点击右下角的加号,选择Add frome HuggingFace(玩过stable diffusion的朋友应该很熟悉)。
2、在HuggingFace的模型库里,搜索deepseek-r1,根据手机性能,在1.5b和7b里(15亿/70亿参数的“mini”大模型)随便选一个点击下载。
3、下载完成后,在PocketPal AI的models里,在下载好的deepseek模型上点击Load。
4、在PocketPal AI的setting里开启Metal,在deepseek模型里的设置里,将temperature设定为0.6-0.7之间,数字越大越发散。
PocketPal常见问题
1、PocketPal是免费的吗
app完全免费使用,无任何付费项目、无强制广告弹窗,也无需订阅即可解锁全部核心功能
2、PocketPal支持哪些大模型
DeepSeek-R1、Llama、Gemma 2、Qwen等
3、量化位数,Q2、Q4等词是什么意思
-用于减少模型大小和计算需求,量化位数越低,模型占用内存越小,但可能影响响应质量
-建议中端机型选择4G以下参数量、Q4量化的模型
-旗舰机型可尝试8G以下参数量模型
-日常聊天选择轻量级模型即可满足需求
PocketPal软件优势
1、运行任意模型
兼容Hugging Face的GGUF型号。下载并运行数千个开源模型。
2、100%私人
所有处理都在设备上完成。手机上没有任何消息——你的对话始终属于你自己。
3、对你的设备进行基准测试
利用内置的基准测试工具测试和比较不同设备的LLM性能。
4、对话历史
完整的聊天记录和搜索。从你刚才停下的地方继续任何对话。
5、可定制
调整模型参数、系统提示和推理设置以适应你的工作流程。
6、跨平台
可在iOS和Android平台观看。无论你拥有哪台设备,都能获得同样出色的体验。