因为平时会去了解AI相关的东西,写脚本也会用到,所以,记录一下

工具下载

在开源大模型领域中，Llama3是非常强大的工具！Meta公司发布了两个性能强悍的大模型，即8B和70B，并即将发布400B，可以与GPT-4一较高下！今天我们将介绍三种本地部署方法，简单易懂，非常适合新手！

1. GPT4All：适合低配置用户，可以在CPU/GPU上运行。

   下载地址

2. LMstudio：支持下载多个模型，包括8B和70B等，提供更多模型选择！

   下载地址

3. Ollama：支持多平台！

   下载地址

4. AnythingLLM

   下载地址

5. open-webui

   下载地址

模型下载

• Huggingface Hugging Face
• Huggingface 镜像站 HF Mirror
• 魔搭社区 ModelScope

在线体验（免费API）

• NVIDIA Build
• Groq Playground
• Perplexity AI
• Llama Family
• Tavily

开源大模型API价格

• DeepInfra Pricing
• LLM Price Check