LM Studio

LM Studio 技术架构

LM Studio是本地LLM的图形化管理工具。与Ollama的命令行方式不同，LM Studio提供完整的GUI界面，用户可以可视化地搜索、下载、配置和运行模型。

基于Electron构建桌面应用，底层同样使用llama.cpp作为推理引擎。特色是内置了HuggingFace模型搜索，可以方便地发现和下载各种开源模型。提供兼容OpenAI格式的本地API服务器。