Ollama

Ollama 可通过桌面端和命令行运行受支持的模型，并提供 API 供应用集成。本地性能与硬件要求取决于所选模型及上下文长度。