ChatterUI 是一款开源、移动端优先、多后端兼容的AI聊天前端,主打本地离线运行角色对话,适合在手机上灵活管理和使用各类大模型。


基本信息

  • 定位:移动端原生LLM聊天前端(Native Mobile Frontend for LLMs)
  • 开发:基于 React Native 构建,完全开源(GitHub: Vali-98/ChatterUI)
  • 平台Android 为主,iOS 正在开发中
  • 授权:免费开源,可自由定制与部署

核心功能与模式

1. 双运行模式(核心优势)

  • 本地模式(Local Mode)
    • 内置 llama.cpp 引擎,直接在手机运行 GGUF 格式模型
    • 无需网络、隐私本地存储、零API费用
    • 支持导入/管理本地模型文件
  • 远程模式(Remote Mode)
    • 对接主流云端API:OpenAI、Claude、Cohere、Google AI Studio、Open Router、Mancer、AI Horde
    • 支持通用文本补全接口(Generic Text Completions)
    • 可配置代理与自定义API模板

2. 角色对话系统(Character Cards)

  • 完整支持 Character Card v2 规范,创建/导入/导出AI角色
  • 为每个角色管理多条独立对话历史
  • 角色标签、过滤、搜索与导出备份

3. 高级交互与定制

  • 采样参数(Sampler) 精细控制:温度、Top-P、Top-K、重复惩罚等
  • 指令格式(Instruct) 自定义:适配不同模型的提示词模板
  • 文本转语音(TTS):调用系统TTS,支持语速调节、边生成边朗读
  • 消息操作栏:编辑、复制、代码块复制、TTS、删除(轻触气泡呼出)
  • Markdown 渲染、代码高亮、对话搜索、重新生成

优势与局限

✅ 优势

  • 隐私优先:本地数据、离线可用、无云端上传
  • 移动端原生体验:流畅、省电、适配手机操作
  • 高度灵活:本地+云端双模式,几乎兼容所有LLM后端
  • 完全开源:可二次开发、无订阅、无广告
  • 角色对话友好:适合角色扮演、虚拟陪伴、个性化助手

⚠️ 局限

  • Android稳定,iOS尚未正式发布
  • 本地运行对手机内存/性能有要求(建议≥8GB RAM)
  • 无官方桌面版,需依赖模拟器或其他方案
  • 界面偏技术向,新手需学习模型导入与参数配置

适用场景

  • 手机端离线AI助手(无网络/飞行模式)
  • 角色扮演、虚拟角色聊天、故事创作
  • 开发者/极客:移动端测试LLM、快速原型
  • 隐私敏感场景:本地处理敏感对话
  • 多模型统一管理:在一个App切换本地/云端模型

快速上手(Android)

  1. 下载安装:GitHub Releases 或第三方应用商店(如 F-Droid)
  2. 本地模式(推荐)
    • 设置 → 切换为 Local Mode
    • Models → Import Model → 选择手机中的 GGUF 文件(如 Llama 3、Mistral 等)
    • 加载模型 → 新建对话 → 开始聊天
  3. 远程模式
    • 设置 → 切换为 Remote Mode
    • 选择API(如 OpenAI)→ 填入API Key → 保存
    • 选择模型 → 开始聊天
免责声明:本网站仅提供网址导航服务,对链接内容不负任何责任或担保。
相关资讯