Omnibot 是一个创新的 AI 平台,利用 WebGPU 在您的浏览器中原生运行大型语言模型(LLM),确保您的数据在设备上安全处理,而没有任何服务器端的干预。凭借离线功能,Omnibot 为您带来浏览器内和离线的 AI 体验。它允许您在初始模型下载完成后离线使用选定的 LLM。所有 AI 模型在您的硬件上本地运行,确保您的数据仅在您的 PC 上处理。您还可以添加自定义指令/记忆,以便 AI 提供更好和更个性化的响应。
适合人群
- 开发者
- 研究人员
- 关注隐私的用户
- 网络连接有限的用户
产品优势
- 由于本地数据处理增强了隐私
- 初始模型下载后具备离线功能
- 可定制的记忆以提供个性化 AI 响应
- 利用 WebGPU 提高性能
使用注意
- 需要具有足够内存的 GPU(7B 模型需要 6GB,3B 模型需要 3GB)
- 需要初次下载模型
- 手机支持取决于 WebGL 兼容性





