安装手册
# 前言
# 产品简介
金蝶Apusic Copilot智能问答系统,基于大语言模型,融合了自然语言处理(NLP)、机器学习和深度学习等多种先进技术。该系统旨在通过智能化的方式,理解和回答用户的问题,提供高效、准确的信息服务。
# 范围和读者
本手册介绍金蝶Apusic Copilot智能问答系统产品安装相关的内容,主要适用于实施人员,维护人员等。
# 文档导航
| 章节 | 内容概述 |
|---|---|
| 1. 前言 | 文档范围,约定内容 |
| 2. 系统环境要求 | 安装产品所需的软硬件环境 |
| 3. 安装前准备工作 | 产品安装前部署软件 |
| 4. 安装 | 产品安装过程说明 |
| 5. 启动 | 启动产品说明 |
| 6. 卸载 | 关闭卸载产品说明 |
# 约定与术语
一些约定的缩略词诠释:
- ACS
金蝶Apusic Copilot智能问答系统(Apusic Copilot System)
# 系统环境要求
ACS产品支持Windows Server、Linux、Unix等多个操作系统平台的安装部署。
# 环境要求
| 组件 | 要求 |
|---|---|
| 操作系统 | Windows系列; Linux Red Hat 5.2或以上; 国产操作系统如银河麒麟系列、中标麒麟系列、普华、中科红旗、深度等。 |
| CPU | Intel(R) Xeon(R) CPU E5-2640 v4 @ 2.40GHz或以上x86CPU。 |
| 内存 | 16G或以上 |
| 显存 | 支持NVIDIA cuda的显卡 24G或以上 |
| 硬盘 | 可用空间100G或以上 |
| 浏览器 | FireFox 70及以上、Chrome 60及以上、IE 11及以上 |
| 软件 | 支持Docker 24以上、docker-compose 2.25以上 NVIDIA Container Toolkit |
# 安装前准备工作
# 安装Docker、docker-compose
ACS运行环境依赖于Docker运行环境,在运行ACS之前,需要具备Docker和docker-compose环境。 检查环境是否安装docker和docker-compose环境。
docker --v
Docker version 24.0.7, build 24.0.7-0ubuntu2~22.04.1
docker-compose --v
Docker Compose version v2.25.0
2
3
4
5
# 安装NVIDIA Container Toolkit
GPU设备的NVIDIA驱动程序必须安装在受支持的Linux发行版中,并已按照本指南安装了 NVIDIA Container Toolkit。
对于 Ubuntu 22.04 用户,可以使用以下命令安装驱动程序和容器工具包
sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545
其他操作系统用户请参考官方安装指南 (opens new window)。
运行以下命令可检查驱动程序是否已正确安装:
modinfo nvidia | grep "^version"
version: 545.29.06
2
# 安装Ollama(可选)
ACS支持调用ollama发布的模型。
安装介质:https://ollama.com/download
选择对应的操作系统安装即可
运行以下命令可检查ollama是否已正确安装:
ollama -v
ollama version is 0.5.6
2
下载大模型(比如qwen2.5:14B)
ollama pull qwen2.5:14b
# 产品安装包
ACS产品安装包:apusic-copilot.zip
ZIP安装包适用于window/linux操作系统。ACS产品安装包目录结构如下。
| 目录 | 内容 |
|---|---|
| milvus-backup | milvus向量数据库的备份恢复脚本。 |
| init-milvus.sh | 初始化milvus向量数据库的脚本。 |
| docker-compose.yaml | Apusic Copilot的docker-compose配置文件。 |
| backup.yaml | milvus向量数据库的备份恢复配置文件。 |
| apusic-copilot-db-init.sql | Apusic Copilot数据库初始化脚本。 |
| apusic-copilot.tar | Apusic Copilot的docker镜像文件。 |
| config.yaml | Apusic Copilot配置文件。 |
| volumes | milvus的持久化目录。 |
# 安装
# 脚本授可执行权限
chmod +x milvus-backup
chmod +x init-milvus.sh
2
# 导入Apusic Copilot镜像
#导入Apusic Copilot镜像
docker load -i apusic-copilot.tar
#查看镜像id
docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
<none> <none> 52c9d99de8e9 6 hours ago 16.6GB
# 给镜像打标签
docker tag 52c9d99de8e9 apusic-copilot:v1.0
2
3
4
5
6
7
8
9
10
检查apusic copilot镜像是否导入成功。
docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
apusic-copilot v1.0 cb07f66c06a5 9 minutes ago 16.7GB
2
3
4
# 执行docker-compose
docker-compose up -d
WARN[0000] /opt/apusic-copilot/docker-compose.yml: `version` is obsolete
WARN[0000] a network with name apusic-copilot exists but was not created for project "apusic-copilot".
Set `external: true` to use an existing network
[+] Running 6/6
✔ Container milvus-etcd Started 1.0s
✔ Container apusic-copilot-db Started 1.0s
✔ Container milvus-minio Started 0.8s
✔ Container milvus-standalone Started 1.1s
✔ Container apusic-copilot Started 1.4s
✔ Container milvus-attu Started
2
3
4
5
6
7
8
9
10
11
12
所有组件启动成功即可
# 初始化milvus向量数据库
sh init-milvus.sh
# Apusic Copilot配置文件说明
# apusic copilot对外端口
server:
port: 8001
# pg数据库配置
datasource:
url: 127.0.0.1:5432
username: postgres
password: Apusic@2024
database: apusic-copilot
# Milvus向量数据库配置
milvus:
uri: http://127.0.0.1:19530
collection: apusic_knowledge_collection
user:
password:
# apusic copilot内部模型配置(主要用于标签检索、历史对话和答案评估)
inner:
type: ollama
model: qwen2.5:14b
base_url: http://127.0.0.1:11434
api_key:
# apusic copilot模型配置(支持多个,类型支持ollama和openai)
models:
- type: ollama
name: qwen2.5:14b
model: qwen2.5:14b
api_key:
base_url: http://127.0.0.1:11434
description: qwen2.5:14b
icon: /public/favicon.ico
showReasoning: false
- type: openai
name: deepseek-v3
model: deepseek-v3
api_key: xxxxx
base_url: https://xxxxxx
description: deepseek-v3
icon: /public/deepseek.png # 图标
showReasoning: false # 是否显示推理过程
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
# 访问
打开浏览器访问 http://ip:5000/,默认用户名密码为admin/admin即可开始体验Apusic Copilot
# 卸载
执行docker-compose down命令即可卸载Apusic Copilot
docker-compose down
WARN[0000] /opt/apusic-copilot/docker-compose.yml: `version` is obsolete
[+] Running 6/6
✔ Container milvus-attu Removed 0.3s
✔ Container apusic-copilot Removed 0.7s
✔ Container milvus-standalone Removed 10.3s
✔ Container apusic-copilot-db Removed 0.4s
✔ Container milvus-etcd Removed 0.2s
✔ Container milvus-minio Removed
2
3
4
5
6
7
8
9
10
← 用户手册