开源AI对话客户端特点速览
想在安卓手机上用大模型,又不想被某一家服务绑住:Agora 这类「自带密钥」的开源客户端值得先看一眼。这篇把它的特点压缩成一篇速览,看完就知道它适不适合你。
市面上大部分手机 AI 应用是「账户 + 订阅」的形态:注册、充值、对话记录存在别人的服务器上。Agora 走的是另一条路——它本身免费开源(MIT 协议),不卖模型服务,你把自己的 API 密钥填进去,请求从手机直连所选的服务商;也可以完全不联网,导入 GGUF 格式的开源模型用手机本地推理。
核心特点
- 树状分支对话:编辑或重新生成任何一条历史消息,都会从原处分出新分支,旧回答原样保留,随时切回对比。
- Compact 上下文压缩:长对话按 token 预算自动收拢,最近的内容保持原文,更早的压成摘要;删掉压缩胶囊即可还原,不丢消息。
- 内置工具调用:联网搜索、抓取网页、图像生成、跨会话记忆检索、远程 Shell 等,按需开启后模型在回答中自主调用。
- 本地离线推理:内置 llama.cpp 引擎,GGUF 模型进手机后断网也能聊,快慢取决于手机性能。
- 数据留在本机:会话、消息树、记忆与附件存应用自管数据库;没有通用遥测通道,崩溃报告也要你点头才发送。
- 多语言界面:内置 12 种界面语言含简繁中文,Material 3 风格可自定义字体与主题色。
适合谁用
- 在意对话隐私、希望记录只存在自己手机里的人;
- 手里已经有服务商密钥(或想用免费开源模型)、不愿再为客户端本身付费的人;
- 喜欢折腾本地模型、想随时随地离线聊天的玩家。
从哪了解更多
介绍站把它的界面截图、功能说明与两条用路的配置思路整理成了两页内容,入口在这里:Agora 安卓客户端说明站。装好后第一次配置该怎么走,也可以直接看树状分支对话怎么用和手机离线跑大模型这两篇。