本期是Mac电脑的部署教程,win版的教程看这篇文章!
[postsbox post_id="2871"]
本地模型的优势
- 离线可用 断网状态下也能自由对话,响应速度更快。
- 隐私无忧 数据处理全在本地完成,无隐私泄露风险。
- 零成本使用 安装后完全免费,支持无限次对话。
【宝藏星球屋 - cbge.top】安装指南:三步搞定本地大语言模型
- 下载工具 下载 ollama,将 .app 文件拖入「应用程序」文件夹完成安装(注意:Ollama 无 GUI 界面)。 「【电脑软件】Ollama」,点击链接即可保存。打开「夸克APP」 链接:https://pan.quark.cn/s/92991e475544
【宝藏星球屋 - cbge.top】- 启动并安装模型 打开终端,复制粘贴命令 ollama run llama3.2 并回车,开始下载 2GB 的本地模型。安装完成后,你就可以和模型对话啦!
【宝藏星球屋 - cbge.top】
【宝藏星球屋 - cbge.top】
【宝藏星球屋 - cbge.top】- 扩展你的模型库 在 Ollama 官网的 Models(https://ollama.com/library/deepseek-r1)页面探索更多模型,比如选择 DeepSeek-R1-蒸馏-Qwen-14B。复制安装命令到终端运行,即可轻松添加新模型。
【宝藏星球屋 - cbge.top】
【宝藏星球屋 - cbge.top】使用技巧:让本地大语言模型更高效
- 管理你的模型 输入 ollama list 查看已安装的模型;使用 ollama rm 模型名称 删除不再需要的模型。
- 快速切换模型 直接在终端输入 ollama run 模型名称 开始对话,按 control - D 结束当前会话。
【宝藏星球屋 - cbge.top】更多选择:告别命令行
如果对终端操作不熟悉,可以试试 Enchanted LLM(https://enchantedllm.com)这款免费工具提供友好的 GUI 界面,支持 iPhone、iPad 和 Apple Vision,在苹果商店里面就有!
【宝藏星球屋 - cbge.top】让你像使用 ChatGPT 一样轻松。
【宝藏星球屋 - cbge.top】总结
通过 Ollama 或 Enchanted LLM,在 Mac 上运行本地大语言模型不仅方便快捷,还能享受更安全、更高效的体验。如果你也想尝试本地 AI 的魅力,不妨试试这些工具!
如果想要获得更好的体验,那就是升级设备了!
如果觉得不错,赞赏支持~
宝藏星球屋 - cbge.top