BUILT FOR YOUR SERVER

把模型,安放在你自己的服务器。

网关连接 Ollama,并为浏览器、手机、桌面和第三方应用提供统一入口。以下是部署时值得确认的边界。

01 / CONNECT

连接模型服务

默认连接 http://localhost:11434。远端 Ollama 地址通过 Ollama:BaseUrl 配置。不要把未鉴权的 Ollama 端口直接暴露到公网。

上下文留空时由网关估算;新版网页与原生聊天链路会按模型声明上限裁剪。更长的窗口并不意味着更快,需结合显存选择。

02 / ACCESS

管理访问入口

账号使用 ASP.NET Core Identity,数据库默认保存在本地 SQLite app.db,首次启动自动应用迁移。公开注册默认关闭,账号由 SingleUserAccess 配置。

第三方客户端通过独立 API 密钥访问 /v1;手机客户端和桌面端使用外部 API 的令牌及设备绑定。API Key 回退是否可用取决于服务端配置。

03 / PRIVACY

明确加密边界

对外使用 HTTPS 并验证证书。内网穿透优先采用 TLS 透传,让 HTTPS 在你控制的网关终止。

原生客户端可选应用层加密,不代表浏览器聊天也启用了同一层加密;浏览器的传输保密依赖 HTTPS。网关需要解密后调用模型,因此不是网关不可读的端到端加密。

04 / CAPABILITIES

让模型做擅长的事

图片直传给视觉模型;文档先抽取文本。若模型不支持图片,应切换到视觉模型,而不是期待网关自动获得视觉能力。

联网搜索需要服务端开启,且仅勾选后使用。问题关键词会发送到外部搜索站点,因此这类请求不是纯本地闭环。