「本地大语言模型」找到 2 条收录:

C

Coding_with_LLAMA_CPU 是一个基于 Gradio 的 AI 应用,围绕在 CPU 上运行大语言模型展开,并通过 llama-cpp-python 提供对话界面与文本流式输出能力,适合探索本地化的模型交互方式。

G

GPT4All 面向希望在日常电脑上运行大语言模型的用户,提供本地聊天、私密处理文档和 Python 调用能力。它支持 Windows、Windows ARM、macOS 与 Ubuntu,并可通过本地推理开展问答、文本生成及应用集成。