gpt4 book ai didi

大模型学习-内网环境搭建

转载 作者:我是一只小鸟 更新时间:2023-09-26 15:02:05 24 4
gpt4 key购买 nike

大模型学习 - 内网环境搭建 。

环境:

  • 内网,以下安装均为离线安装
  • 系统:Linux cdh12 3.10.0-1160.e17.x86_64
  • 内存(377G)、GPU(P40-25G)*8)

安装Anaconda

参考:

  • linux离线环境下安装anaconda
  • anaconda python 版本对应关系

在回车接收许可时,可得按慢点,不然还得重新开始:

image-20230921160855441

安装CUDA Toolkit

参考: https://blog.csdn.net/weixin_44864260/article/details/127770525 。

我拿到机器的时候已经安装好

image-20230922102736668

离线安装PyTorch

参考: https://blog.csdn.net/weixin_44864260/article/details/127770525 。

我这里选择的是:

image-20230922111647160

没有创建虚拟环境,直接在base中执行安装,但报错了,是依赖包没有安装:

image-20230922103402055

开始逐个安装依赖,阿里源地址( https://mirrors.aliyun.com/pypi/simple/),Pypi源(https://mirrors.aliyun.com/pypi/simple/):

image-20230922104120945

最好安装torch 2.0以上版本,但通过这种方式一直安装不上!!! 。

  • 安装2.0.0以上

参考: 零基础之Centos7下使用Conda安装Pytorch环境 。

我这里的环境是:

image-20230926125559977

所以需要下载,下载地址: 清华源 :

  • pytorch
  • torchvision
  • torchaudio
  • pytorch-cuda=11.7

image-20230926130036908

然后逐个安装即可:

image-20230926130218115

检测一下:

image-20230926130257860

linux免密登陆

主机:Windows,目标主机:Linux 。

参考: windows实现ssh免密登录服务器 。

重点就是密钥生成:

                        
                          ssh-keygen

                        
                      

然后上传公钥至服务器! 。

VScode远程访问

参考: VSCode内网远程连接服务器 。

注意:下载对应的ms-vscode-remote.remote-ssh插件时,内网和外网的VScode版本一定得一直,不然安装失败.

在执行完第2步时,我这在侧边栏中并不会出现远程连接的符号:

image-20230921155024164

为了继续执行(),按F1调出命令控制,输入ssh ,选择:

image-20230921155307444

在设置好连接信息后,选择对应的别名,根据提示填入密码,即可控制:

image-20230921155442781

在远程给服务器安装vscode-server-linux-x64.tar.gz时,需要注意,替换commit_id即可,不加${}:

                        
                          mkdir -p ~/.vscode-server/bin/commit_id
tar -zxvf /tmp/vscode-server-linux-x64.tar.gz -C ~/.vscode-server/bin/commit_id --strip 1
touch ~/.vscode-server/bin/commit_id/0

                        
                      

这样就可以了! 。

最后此篇关于大模型学习-内网环境搭建的文章就讲到这里了,如果你想了解更多关于大模型学习-内网环境搭建的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com