Jan——打造100%离点的开源AI工作站

Jan是一款免费开源的本地化AI框架，支持在Windows、Mac和Linux设备上完全离线运行各类大语言模型（如Llama、Mistral、Gemma等），实现数据100%留存于本地，兼顾高性能与隐私安全。其跨平台、可扩展的设计，让开发者、研究者及普通用户无需依赖云端即可高效开发、测试与部署AI应用。

一、核心特性：隐私、兼容与灵活性的统一

1. 本地优先，数据零外传
   所有对话记录、模型数据均存储于用户本地文件系统，支持一键导出/删除，彻底避免敏感信息泄露风险，满足金融、医疗等隐私敏感场景需求。

2. 多模型兼容与跨平台支持

3. 模型引擎：集成llama.cpp、TensorRT-LLM双推理引擎，支持GGUF、TensorRT等格式模型，可运行超20种开源模型（如LLaMA 3、Phi-2、DeepSeek等），并支持Hugging Face模型库直连下载。

4. 跨平台适配：原生兼容Windows 10+/macOS 12.6+/Linux Debian系统，优化NVIDIA GPU与Apple M系列芯片加速，最低仅需8GB内存即可运行。

5. 双模式灵活切换

6. 纯离线模式：本地加载模型，无网环境仍可使用；

7. 远程API模式：无缝接入OpenAI、Groq、Mistral等云端API，兼顾低配置设备用户需求。

8. 开发者友好扩展框架
   提供类OpenAI的本地API端点，支持构建聊天机器人、RAG文档分析（PDF/文本解析）、多线程对话管理，并开放扩展中心供用户自定义UI、功能插件及品牌集成。

二、快速上手：3步开启本地AI

1. 下载安装
   访问官网[jan.ai]选择系统版本，一键安装（无需终端操作）。
2. 模型部署
3. 从内置Hub下载模型（如Llama 3），或粘贴Hugging Face链接导入；
4. 支持手动调整推理参数（温度、tokens数等）。
5. 对话/开发
6. 普通用户：直接使用聊天界面提问，支持文件附加启用RAG检索；
7. 开发者：调用http://localhost:1337/v1/chat/completions接口对接自有应用。

三、应用场景：从开发到创意生产

• 开发测试：本地调试模型，加速AI应用原型开发；
• 学术研究：离线实验不同模型性能，推进算法迭代；
• 教育实践：学生安全学习AI技术，教师生成教学案例；
• 内容创作：离线生成文本、代码、故事与诗歌。

四、持续进化：开源社区的AI工坊

Jan以MIT协议开源，未来将推出移动端APP、多模态模型支持及可视化AI助理创建工具。其轻量化推理引擎Nitro（C++编写）已支持Docker快速部署，适配边缘计算场景，持续降低AI本地化门槛。

技术团队评价：“Jan将分散的AI生态统一为简洁的桌面入口——切换模型像更换频道一样简单，却从未牺牲数据主权。”

Jan重新定义了个人设备的AI能力边界，让每一台电脑都成为自主可控的智能工作站。