BYOK:自带密钥的 AI 客户端配置思路
这篇整理「自带密钥」(BYOK,Bring Your Own Key)这类客户端的配置思路:密钥从哪来、填到哪、请求走哪条路,以及配好之后不出字的排查顺序。以安卓端开源客户端 Agora 为例,完整介绍见 Agora 介绍站。
主流 AI 应用通常让你登录平台账号、按平台的定价和规则使用;BYOK 客户端走的是另一条路——你自己到模型服务商那里开账号、生成 API 密钥,把密钥填进客户端,请求从你的设备直连该服务商。用什么模型、花多少钱、数据怎么走,都由你自己决定。
密钥怎么来的
到选定的模型服务商平台注册账号,在控制台的 API 管理页面生成密钥即可。各家平台多有按用量计费的模式,新账号常有赠送额度,先小额试再决定长期用哪家是稳妥做法。
填进客户端的顺序
以 Agora 为例,配置路径是固定的三步:
- 从会话抽屉进设置,在服务商(Providers)页面选定一家,填入 API 密钥;
- 到模型(Models)页面同步模型列表,勾选启用你要用的那几个——同步了不等于启用了,这是最容易漏的一步;
- 回到聊天底栏,从模型选择器里选中刚启用的模型,发一条消息出字即配好。
自定义 OpenAI 兼容端点也走同一路径:自建服务、本地局域网的 Ollama、各类兼容中转,都可以作为「自定义服务商」接入,Base URL 会自动补全 /v1 后缀。
两个常被忽略的点
密钥的存放安全。 密钥等同于账号的钥匙,应当存放在本机的加密区域。Agora 用系统级加密(Android Keystore,AES-256-GCM)保存敏感设置,导出备份时对密钥另有单独处理,换机时注意这一点。
网络环境。 部分服务商在特定网络下无法直连。Agora 从 v1.3.7 起支持在应用内配置网络代理,HTTP / HTTPS / SOCKS5 三种协议都可设,并能填绕过列表——比如让局域网里的 Ollama 地址不走代理。
配好了却不出字,按这个顺序查
- 模型是否已勾选启用(不是同步完成就行);
- 底栏选中的模型是否属于刚配置的那家服务商;
- 密钥是否有效、账户是否有余额,服务商后台的报错信息最准确;
- 网络能否直连该服务商,需要代理的先把代理配好。
延伸阅读
- 没有密钥也想先用起来,见 手机离线跑大模型实操.md;
- 数据去向的完整说明,见 对话数据留在本机意味着什么.md。