46.2k Star！无需GPU轻松在本地运行多种大模型，支持Llama2、Gemma等~

一个让你能在家里悠哉悠哉运行Llama2、Gemma这类大模型的项目，是不是听着就很有意思？这个项目不但让你不用GPU，连上网都不需要，纯纯的神器啊！

Ollama——一个简明易用的本地大模型运行框架。随着围绕着 Ollama 的生态走向前台，更多用户也可以方便地在自己电脑上玩转大模型了。

特点

• 只要你有个电脑，就能跑，不管你是用的CPU还是啥，家用电脑轻松应对。

• 安装简直不能再简单，Windows、Linux、Mac全都不在话下。

• 支持的大模型不只一两个，Llama 2、Gemma、通义千问、还有LLaVA（专门搞图片识别的）等等，应有尽有。

• 告别复杂设置，提供REST API服务，方便得很。

• 生态系统丰富，围绕这个项目，已经衍生出各种web界面、桌面软件、SDK库，丰富你的选择。

快速上手

接下来，简单几步，教你怎么轻松上手。

安装与运行大模型

GitHub上找到项目，下载自己需要的版本。

ollama run llama2

运行起来，界面一出现，你就成功了。

部署web界面

docker run -p 3000:3000 ghcr.io/ivanfioravanti/chatbot-ollama:main

部署成功后，打开浏览器访问http://localhost:3000，你的私有GPT就成功了，重点是，完全离线使用。

内存是关键

各种模型任你挑，但别忘了，内存够不够是关键。不同模型，内存需求不同，要根据你的机器配置来选择合适的模型。

最后

回望过去，开源大模型领域风起云涌，Meta推出的Llama 2就像一股清流，给开源社区带来新的生机。而如今，谁还说LLM就是昂贵的GPU？本地大模型让大家都能享受到AI的魅力。

由于有些小伙伴网络问题，导致下载不了，这里我已经整理到网盘了。

https://www.j301.cn/blog/github_ai_tool_ollama.html

扫描下方二维码，购买GPT账号、GPT Plus共享账户、GPT Plus代充值、Poe会员代充值，帮助大家熟练掌握ChatGPT！

点分享

点收藏

点点赞

点在看