如何在vscode中对在服务器上多卡运行的bash脚本进行debug? ? 问题描述使用vscode可以很方便地添加断点,进行代码调试。 在使用服务器时,我们的python代码通常是通过bash脚本来执行的,那么如何进行debug呢? 待运行的bash 脚本示例前半段定义了一些参数,后半段是执行python代码 123456789101112export CUDA_VISIBLE_DEVICES=1,2model_path=/models/Mistral-7B-Ins 2024-11-23
如何在huggingface上申请下载使用llama2/3模型 1. 在对应模型的huggingface页面上提交申请搜索对应的模型型号 登录huggingface,在模型详情页面上,找到这个表单,填写内容,提交申请。需要使用梯子,country填写梯子的位置吧(比如美国) 等待一小时左右,会有邮件通知。 创建access token 在huggingface上登录后,点击头像,选择setting,点击左侧的access tokens,新建一个token 2024-11-23
如何把服务器代码上传至github 0. 准备本教程适用于已经在服务器上下载好了git并和github账号进行关联,如果没有请先移步至这个教程 1. 单击new在github上新建项目 输入项目名称,建好后会有一串类似于git@githubxxx.git的项目路径(主要 2024-11-23
服务器上虚拟环境里的jupyter notebook连接不上kernal,显示not connection to kernel 问题描述1在服务器上新建了一个虚拟环境,下载了相关的包后,使用以下代码新建了kernal 123pip install ipykernelpython -m ipykernel install --user --name=pytorch-0.3.0 然后输入jupyter notebook启动,却显示not connection to kernel 解决1是因为的Jupyter notebook 2024-11-23
vllm报错out of memory解决 通过调低–gpu-memory-utilization的比例(默认为0.9),可以避免此问题 12345678model = LLM( args.model_name_or_path, trust_remote_code=True, tensor_parallel_size=num_gpus, max_model_len = 2048, gpu_memory_util 2024-11-23
python爬取百度百科属性框 python爬取百度百科属性框记录由于构建知识图谱时需要爬取一些实体属性,故考虑爬取百度百科的属性框,如图: 实体名称为马寅初,想根据以上的信息框爬取一些三元组关系,并保存到csv文件中,格式如下: |实体|关系|属性|——|马寅初|中文名|马寅初|马寅初|外文名|马寅初|马寅初|国籍|中国|马寅初|出生日期|… 一个两个实体可以考虑在网页上直接复制粘贴,但有很多个该怎么办呢?故考虑选用pyth 2024-11-23 #python #爬虫
pycharm里test connection连接成功,但是无法同步服务器文件,deployment变灰 如果服务器test connection连接成功,但是无法同步文件。 可以尝试以下方式: 点击tools-deployment-browse remonte host,选择要连接的服务器的文件夹 如果能正常显示服务器文件夹,再点击tools-deployment,注意要把要选择的服务器点击 打钩!,使其变成加粗的白色。 这样就可以正常同步文件了。 2024-11-23
Perplexity:深入理解语言模型评价指标——困惑度 语言模型好坏的衡量语言模型(Language Model)会进行文本生成。如何衡量不同语言模型的好坏呢?一般而言,在机器学习中,我们通常将数据划分为训练集和测试集。在训练集上训练模型,并在测试集上衡量模型的拟合能力。如果拟合得越精确,代表模型越强。 什么叫”拟合能力越好“呢?由于语言模型是根据各个词出现的不同概率来进行文本生成的,所以我们可以给定一段文本序列(即测试集),如果模型生成这段话的概率越 2024-11-23
Mysql登录常见报错 mysql 8.0登录失败常见报错,保姆级登录教程。气死了,过了好久了,也都忘记自己的mysql怎么登录了。之前花了好长时间来找网上的教程但大多都很过时了,甚至想直接重装,但也不甘心。于是鼓捣半天终于登上了。 常见报错: mysql 服务正在启动 .mysql 服务无法启动。服务没有报告任何错误。在命令行中切换到mysql的bin路径,输入net start mysql后显示服务无法启动。 1 2024-11-23
mobaXterm使用密钥免密登录服务器,并且在Vscode中使用ppk密钥进行远程连接 本文介绍在mobaXterm上免密登录的过程,并且在vscode中也免密登录服务器。 1. mobaXterm免密登录服务器需要首先说明的是,mobaXterm里有一个记住密码的功能。如果你只是不想手动输入密码,大多数情况下使用这一功能即可。 这里介绍的情况是,远程主机不支持密码登录(为了安全考虑吧,之前服务器就是被攻击了,所以老师取消了密码登录),所以我们需要生成公钥和私钥,来使用密钥免密登录。 2024-11-23