Local-LLM — 本地大模型

事实

在本地设备或私有环境中运行的大语言模型。

人话

它像把 AI 师傅请到家里干活，不用排云端长队，悄悄话也少外传。

它适合隐私文档、离线办公和开发调试，但很吃电脑配置。

相关概念

• 开源模型
• 大语言模型
• GPU 算力
• 数据隐私

Open-source-model
Open-source-model 为 Local-LLM 提供可下载和部署的基础。

LLM
Local-LLM 是将 LLM 部署在本地或私有环境中。

GPU
GPU 决定 Local-LLM 可运行的模型规模和速度。

Data-privacy
Data-privacy 是选择 Local-LLM 的重要原因之一。