Skip to content

LlamaBarn:菜单栏应用,让你轻松在 Mac 上安装、运行并访问本地 LLM。 #238

@jaywcjlove

Description

@jaywcjlove

📋 简介

LlamaBarn 是一个小巧的菜单栏应用,让你轻松在 Mac 上安装、运行并访问本地 LLM。

LlamaBarn
  • 从内置模型目录安装模型 — 仅显示可以在你 Mac 上运行的模型。
  • 选择已安装的模型运行 — LlamaBarn 会自动配置并启动服务器,地址为 http://localhost:2276
  • 通过 API 或网页界面使用正在运行的模型 — 两者都在 http://localhost:2276
  • 底层 LlamaBarn 使用 llama.cpp,运行模型无需任何外部依赖。

使用场景

可连接任何支持自定义 API 的应用:

  • 聊天界面,如 Chatbox 或 OpenWebUI
  • 命令行助手,如 OpenCode 或 Codex
  • 编辑器,如 VS Code 或 Zed
  • 编辑器扩展,如 Cline 或 Continue
  • 自定义脚本,可使用 curl 或 AI SDK 库

或者直接使用内置网页界面(http://localhost:2276)与正在运行的模型进行对话。

🔗 链接

https://github.com/ggml-org/LlamaBarn

Metadata

Metadata

Assignees

No one assigned

    Labels

    weekly投稿分享你自己撰写的文章、软件或资源推荐推荐其他人创建的有用文章、软件或资源

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions