认识 Ollama：让大模型在你电脑上安家落户
"Get up and running with large language models locally."
想在自己的电脑上跑大模型？听起来是不是有点酷，但又担心配置太麻烦、硬件要求太高？别担心，Ollama 就是来帮你解决这个问题的！
自 2023 年 6 月诞生以来，Ollama 迅速蹿红，现在已经成了很多人在本地玩转大模型的首选神器。随着大家对数据隐私和边缘计算越来越关注，可以预见，Ollama 未来会在更多个人设备和小型服务器上大放异彩，真正让强大的 AI 大模型“飞入寻常百姓家”。
那么，Ollama 到底是什么？
简单说，就像它的口号一样，Ollama 就是一个能让你轻松在自己电脑上启动并运行各种大型语言模型的开源工具。
你不需要成为一个配置大师，只要跟着简单的安装指引，往往一条命令就能把一个开源大模型（比如 Llama 3.1、Gemma 2 等）跑起来。它提供了一个清爽的命令行界面和后台服务，特别适合想基于大模型做点应用的开发者或爱好者。下载模型、运行、管理？Ollama 都帮你安排得明明白白。跟那些需要复杂设置和“钞能力”硬件才能跑起来的模型相比，Ollama 大大降低了门槛，让普通玩家也能在自己的 PC 上体验到 LLM 的威力。
更贴心的是，Ollama 会自动检测你的电脑硬件。如果你有给力的 GPU，它会优先利用起来加速；如果没有，也没关系，它会切换到 CPU 模式，确保模型照样能跑。这种“看菜下饭”的智能管理，让 Ollama 在各种电脑上都能尽力表现。
而且，Ollama 还特别擅长和 Docker 配合，让在容器里部署和管理大模型的流程变得异常轻松，打包、迁移都方便多了。
Ollama 的魅力：为什么它这么受欢迎？
Ollama 能迅速走红，靠的可不仅仅是“本地运行”这一个点，它的优势实实在在：
- 免费又开放，社区给力： Ollama 本身和它支持的大部分模型都是开源免费的。你可以放心大胆地用，不用担心钱包。而且，背后有一个活跃的开发者社区在不断贡献代码、模型和点子，让 Ollama 越来越好用。
- 上手简单，告别折腾： 这一点真的要吹爆！不需要复杂的配置，通常几条命令就能搞定安装和运行。对于新手来说，这简直是福音，省去了大把研究环境配置的时间和精力。
- 跨平台支持，在哪都能用： 不管你是用 Mac、Linux 还是 Windows，甚至是 Docker，Ollama 都给你准备好了安装方案。这种跨平台的友好性，让不同环境下的用户都能轻松接入。
- 模型库丰富，任君挑选： 从 Meta 的 Llama 系列，到 Google 的 Gemma，再到国内的 Qwen（通义千问），还有像 DeepSeek 这样的新秀，Ollama 的模型库里应有尽有 (https://ollama.com/library)。想试试哪个？一条命令就能下载切换，简直不要太方便！
- 打包管理，井井有条： Ollama 有个叫
Modelfile的机制，可以把模型的权重、配置、数据什么的都打包在一起。这让模型的管理、定制和分享变得特别清晰高效。你可以把它想象成一个模型的“配方文件”。 - 能调用工具，变身“瑞士军刀”： 新版本的 Ollama 已经支持像 Llama 3.1 这样的模型进行“工具调用”了。这意味着模型可以根据你的指令，去调用它知道的外部工具（比如搜索、计算等）来完成更复杂的任务，潜力巨大！
- 资源友好，不挑食： Ollama 在资源优化上下了功夫，包括怎么更好地利用 GPU。这使得它在资源相对有限的环境下也能跑得比较流畅，不用担心把普通电脑“烧”坏。
- 隐私安全，数据本地化： 因为所有计算都在你自己的机器上完成，所以你的数据、你的对话记录都牢牢掌握在自己手里，不用担心隐私泄露，也更符合一些数据安全的要求。
模型百花齐放：总有一款适合你
Ollama 支持的模型库持续壮大，你可以在官方模型库 (https://ollama.com/library) 看到完整的列表。社区也在不断地贡献新模型，生态越来越繁荣。
这里列举一些目前比较火的模型，让你感受一下（注意，模型大小和参数量会影响运行所需的资源）：
| 模型名称 | 特点/版本 | 参数规模 | 大小（约） | 快速运行命令 (ollama run ...) |
|---|---|---|---|---|
| DeepSeek-R1 | - | 7B | 4.7GB | deepseek-r1 |
| DeepSeek-R1 | - | 671B | 404GB | deepseek-r1:671b |
| Llama 3.3 | - | 70B | 43GB | llama3.3 |
| Llama 3.2 | - | 3B | 2.0GB | llama3.2 |
| Llama 3.2 | - | 1B | 1.3GB | llama3.2:1b |
| Llama 3.2 Vision | 视觉模型 | 11B | 7.9GB | llama3.2-vision |
| Llama 3.2 Vision | 视觉模型 | 90B | 55GB | llama3.2-vision:90b |
| Llama 3.1 | - | 8B | 4.7GB | llama3.1 |
| Llama 3.1 | - | 405B | 231GB | llama3.1:405b |
| Gemma 2 | - | 2B | 1.6GB | gemma2:2b |
| Gemma 2 | - | 9B | 5.5GB | gemma2 |
| Gemma 2 | - | 27B | 16GB | gemma2:27b |
| Mistral | - | 7B | 4.1GB | mistral:7b |
| Qwen | - | 110B | 63GB | qwen:110b |
| Phi 4 | - | 14B | 9.1GB | phi4 |
| CodeLlama | 代码生成 | 70B | 39GB | codellama:70b |
| Qwen2 | - | 72B | 41GB | qwen2:72b |
| Llava | 视觉模型 | 7B | 4.7GB | llava:7b |
| Nomic Embed Text | 文本嵌入模型 | v1.5 | 274MB | nomic-embed-text:v1.5 (用 pull 命令下载) |
Ollama 就像一个大模型的“本地启动器”和“管理器”，它极大地降低了在个人电脑上体验和使用前沿 AI 技术的门槛。如果你对大模型感兴趣，想动手试试，那么 Ollama 绝对值得你了解和尝试！