通过调低–gpu-memory-utilization的比例（默认为0.9），可以避免此问题 12345678model = LLM( args.model_name_or_path, trust_remote_code=True, tensor_parallel_size=num_gpus, max_model_len = 2048, gpu_memory_util

python爬取百度百科属性框记录由于构建知识图谱时需要爬取一些实体属性，故考虑爬取百度百科的属性框，如图： 实体名称为马寅初，想根据以上的信息框爬取一些三元组关系，并保存到csv文件中，格式如下： |实体|关系|属性|——|马寅初|中文名|马寅初|马寅初|外文名|马寅初|马寅初|国籍|中国|马寅初|出生日期|… 一个两个实体可以考虑在网页上直接复制粘贴，但有很多个该怎么办呢？故考虑选用pyth

如果服务器test connection连接成功，但是无法同步文件。 可以尝试以下方式： 点击tools-deployment-browse remonte host，选择要连接的服务器的文件夹 如果能正常显示服务器文件夹，再点击tools-deployment，注意要把要选择的服务器点击 打钩！，使其变成加粗的白色。 这样就可以正常同步文件了。

语言模型好坏的衡量语言模型（Language Model）会进行文本生成。如何衡量不同语言模型的好坏呢？一般而言，在机器学习中，我们通常将数据划分为训练集和测试集。在训练集上训练模型，并在测试集上衡量模型的拟合能力。如果拟合得越精确，代表模型越强。 什么叫”拟合能力越好“呢？由于语言模型是根据各个词出现的不同概率来进行文本生成的，所以我们可以给定一段文本序列（即测试集），如果模型生成这段话的概率越

mysql 8.0登录失败常见报错，保姆级登录教程。气死了，过了好久了，也都忘记自己的mysql怎么登录了。之前花了好长时间来找网上的教程但大多都很过时了，甚至想直接重装，但也不甘心。于是鼓捣半天终于登上了。 常见报错： mysql 服务正在启动 .mysql 服务无法启动。服务没有报告任何错误。在命令行中切换到mysql的bin路径，输入net start mysql后显示服务无法启动。 1

本文介绍在mobaXterm上免密登录的过程，并且在vscode中也免密登录服务器。 1. mobaXterm免密登录服务器需要首先说明的是，mobaXterm里有一个记住密码的功能。如果你只是不想手动输入密码，大多数情况下使用这一功能即可。 这里介绍的情况是，远程主机不支持密码登录（为了安全考虑吧，之前服务器就是被攻击了，所以老师取消了密码登录），所以我们需要生成公钥和私钥，来使用密钥免密登录。

这里是阅读InternLM2论文的笔记 微调方式 在大模型的下游应用中，可以有两种微调方式 增量续训 即无监督的方式，让模型学习一些新知识，比如某些垂直领域的新知识 使用的数据有：书籍，文章，代码等1. 有监督微调 为了让模型学会理解指令进行对话，或者注入少量的领域知识 使用的数据为高质量的对话和问答的数据 全量参数微调 部分参数微调 （lora等） 扩展上下文长度 必要性： 1. 检索增强生成

Anaconda下的pytorch环境配置及pycharm导入（win10+CPU)Anaconda下的pytorch环境配置及pycharm导入（win10+CPU)首先下载Anaconda与pycharm两个软件，可移步至各教程。注意pycharm专业版的需要破解，否则无法远程连接服务器调试。 1.创建Pytorch环境。我们首先使用anaconda来创建一个Pytorchd的工作环境。打开A

问题说明在服务器上使用huggingface模型时，如果直接指定模型名称，用AutoTokenizer.from_pretrained(“model_name”)，可能会由于网络原因会报错 Failed to connect to huggingface.co port 443 after 75018 ms: Operation time out 因此我们需要下载模型到服务器上，得到模型本地的路径

常用指令 1234567#查看源conda config --show channels#添加源conda config --add channels [源地址]#删除源conda config --remove channels [源地址] 添加清华源 1234conda config --add channels http://mirrors.tuna.tsinghua.edu.cn/ana