【番外02】夫子明察司法大模型：阿里云（GPU云服务器）部署与法律大模型

一、阿里云更高配置的云服务器实例

阿里云提供了一系列不同配置的云服务器实例，可以根据用户的需求选择更高配置的实例。在全部规格中选择GPU分类，而后可根据自身的需求和钞能力来选择实例规格，此处选择的是：GPU计算型 gn6i，ecs.gn6i-c4g1.xlarge，4vCPU 15GiB。

 在镜像方面选择CentOS7.9 64位版本，并勾选安装GPU驱动，选择合适的CUDA、Driver、CUDNN版本。CUDA是计算机统一设备架构的一个并行计算平台和应用程序编程接口的名称，目前最新版本是CUDA 12.X。Driver版本是指硬件设备所使用的驱动程序的版本号。驱动程序是操作系统与硬件设备之间的桥梁，它负责将操作系统的指令转换为硬件设备可以理解的信号。每个硬件设备都需要相应的驱动程序来确保其正常运行。CuDNN（CUDA深度神经网络库）是NVIDIA提供的一个GPU加速库，用于深度学习。

ECS云服务器实例新建成功后，首先重置实例密码，而后复制公网IP地址，后使用远程工具Xshell对服务器进行连接并使用。

二、源码克隆与依赖更新

使用远程工具Xshell对服务器进行连接后，可发现云服务器在自动安装GPU驱动，该过程需要12-15分钟时间，耐心等待即可。

GPU驱动安装成功后会有如下的提示页面：

而后检查与安装GO语言：

sudo yum install -y golang

go version

 检查go是否安装成功，并确定go的安装版本：

该项目的数据库检索部分使