书生实战营第四期-第一关Linux+InternStudio
一、InternStudio开发机介绍
InternStudio 是大模型时代下的云端算力平台。基于 InternLM 组织下的诸多算法库支持,为开发者提供开箱即用的大语言模型微调环境、工具、数据集,并完美兼容 🤗 HugginFace 开源生态。
1.进入InternStudio控制台界面
网址: InternStudio
2.创建开发机,修改开发机配置
创建个人开发机,名称:test,Cuda版本:12.2,资源配置:10%
3.进入开发机主页面
①JupyterLab:一个交互式的编程和教学环境,同时内置终端,可以很方便地查看文件,执行代码等
②终端(Terminal, 最轻量级):主要进行命令行操作,或者运行脚本和简单程序
③VSCode:网页中集成的VSCode,也可以在本地VSCode中通过SSH连接远程开发,下面就会讲如何配置远程连接。
二、SSH远程连接
SSH全称Secure Shell,中文翻译为安全外壳,它是一种网络安全协议,通过加密和认证机制实现安全的访问和文件传输等业务。SSH 协议通过对网络数据进行加密和验证,在不安全的网络环境中提供了安全的网络服务。
SSH 是(C/S架构)由服务器和客户端组成,为建立安全的 SSH 通道,双方需要先建立 TCP 连接,然后协商使用的版本号和各类算法,并生成相同的会话密钥用于后续的对称加密。在完成用户认证后,双方即可建立会话进行数据交互。
1.使用密码进行SSH远程连接
①打开电脑的powerShell终端
Win+R快捷键打开运行框,输入powerShell,打开powerShell终端
②回到开发机平台
进入开发机页面,找到创建的开发机,点击SSH连接
③复制登录命令,粘贴到powershell中
ssh -p 33166 root@ssh.intern-ai.org.cn -o StrictHostKeyChecking=no -o UserKnownHostsFile=/dev/null
④回车,输入密码
⑤连接成功
⑥其它命令
hostname:
查看开发机名称
uname -a:
查看开发机内核信息
lsb_release -a:
查看开发机版本信息
nvidia-smi:
查看GPU的信息
输入两次exit:
退出远程连接
2.使用VScode进行SSH远程连接
①安装SSH插件
点击左侧的扩展页面,在搜索框中输入“SSH”,点开 Install
②点击侧边栏的远程连接图标
在SSH中点击“+”按钮,添加开发机SSH连接的登录命令
③复制登录命令
粘贴到弹出的窗口中,回车
④右下角弹出提示窗口
点击“连接”就可以远程到开发机
⑤连接成功
三、端口映射
端口映射是一种网络技术,它可以将外网中的任意端口映射到内网中的相应端口,实现内网与外网之间的通信。通过端口映射,可以在外网访问内网中的服务或应用,实现跨越网络的便捷通信。
1.使用 ssh 命令进行端口映射
①打开开发机界面
找到开发机,点击自定义服务,复制第一条命令
ssh -p 33166 root@ssh.intern-ai.org.cn -CNg -L 7860:127.0.0.1:7860 -o StrictHostKeyChecking=no
②安装依赖包
pip install gradio==4.29.0
③创建hello_world.py文件
填入以下代码
import socket
import re
import gradio as gr# 获取主机名
def get_hostname():hostname = socket.gethostname()match = re.search(r'-(\d+)$', hostname)name = match.group(1)return name# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:html_code = f"""<p align="center"><a href="https://intern-ai.org.cn/home"><img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;"></a></p><h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1><h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2><p align="center"><a href="https://github.com/InternLM/Tutorial/blob/camp3"><img src="https://oss.lingkongstudy.com.cn/blog/202410081252022.png" alt="Logo" width="50%" style="border-radius: 5px;"></a></p>"""gr.Markdown(html_code)demo.launch()
④在Web IDE的终端运行hello_world.py
⑤进行端口映射
使用下面的命令,输入到powerShell中
ssh -p 33166 root@ssh.intern-ai.org.cn -CNg -L 7860:127.0.0.1:7860 -o StrictHostKeyChecking=no
⑥成功
打开 URL: http://127.0.0.1:7860
2.使用 vscode 进行端口映射
VScode提供自动端口映射的功能,不需要手动配置
①使用“Ctrl+Shift+~”快捷键唤醒终端
②在终端的右侧找到端口选项
在这里可以查看端口映射的信息,如果需要修改端口的话,可以在端口那一栏修改端口号