当我最开始接触本地 AI 时，Ollama 是我的首选。它很简单，也很友好。你只要输入 ollama run llama3 ，然后砰的一下——一个 LLM 就跑起来了。不需要编译，不需要配置，也没有那些让人头疼的问题。它被称为“本地 LLM 领域的 Docker”，这个类比并不是偶然的。