Skip to content

Latest commit

 

History

History
66 lines (51 loc) · 2.67 KB

README_zh.md

File metadata and controls

66 lines (51 loc) · 2.67 KB

⭐ Argo ⭐

拥有生成式AI模型和工具的本地代理平台,使AI对每个人都有帮助。

环境需求 🐳

如果您仅调用远程大模型API,则对设备没有特殊要求(Mac inter芯片暂不支持,即将开放)

如果您要在本地运行大模型推理,请确保您的机器满足以下最低系统要求:

  • CPU >= 2核心
  • 内存 >= 16 GB
  • 磁盘 >= 50 GB
  • GPU >= 8G(适用于Mac M1及更高版本、Window 10以上)

使用 Mac 或 Windows 快速安装

下载、双击、完成安装.

使用Docker快速开始 🐳

  • 需要安装软件 Docker
  • Docker >= 24.0.0

Warning

要在Docker中启用CUDA,您必须在您的Linux/WSL系统上安装 Nvidia CUDA容器工具包.

  • 如果您使用的是 Linux,Ollama将默认包含在镜像中。
  • 如果您使用的是 MacOS (Monterey或更高版本),Ollama将默认部署在主机机器上。
  • 如果您使用的是 Windows,需要先自行安装docker及wsl环境,安装过程同Linux。
  • 我们将使用brew来安装docker和ollama,如果出现问题,您可以自己安装 Dockerollama

Tip

推荐的Ollama模型:qwen2.5:7b用于聊天,shaw/dmeta-embedding-zh用于中文知识库。

# 使用方法:{run [-n name] [-p port] | stop [-n name] | update}
# 默认名称:argo
# 默认端口:38888

# 下载镜像,创建容器并启动
sh argo_run_docker.sh run

# 停止容器(数据将被保留)
sh argo_run_docker.sh stop

# 更新镜像到最新版本(原始镜像将被删除)
sh argo_run_docker.sh update

交流讨论:

discord: https://discord.gg/79AD9RQnHF

微信群:

图片

一起携手让Argo越来越好!💪 image image image