「CPU运行大语言模型」找到 1 条收录:

C

Coding_with_LLAMA_CPU 是一个基于 Gradio 的 AI 应用,围绕在 CPU 上运行大语言模型展开,并通过 llama-cpp-python 提供对话界面与文本流式输出能力,适合探索本地化的模型交互方式。