chatglm3部署与微调实战
官网提供chgpt全量微调了详细的部署流程chgpt全量微调，部署时需注意一些依赖库对CUDA和Python版本的要求。使用Python9与3090显卡进行部署，实测发现20系显卡不可用。模型下载链接为chatglm3-6b。部署方式包括命令行模式与网页模式两种交互方案。命令行模式的交互界面在官网上提供。
ChatGLM3 Demo 拥有三种模式chgpt全量微调：官方给出了对话模型和基座模型的微调示例，Chat模型微调的相关脚本在“autodl-tmp/ChatGLM3/finetune_chatmodel_demo”文件夹下，微调示例参考官方文档（ ChatGLM3/finetune_chatmodel_demo at main · THUDM/ChatGLM3 （github.com）进行复现。
本文将探讨如何通过微调实践，更新ChatGLM3-6B模型的知识。首先，我们需创建调用环境和安装所需的依赖。进入项目目录，克隆ChatGLM3-6B官方代码，并创建虚拟环境。通过安装依赖，确保所有工具都已就绪。下载模型时，考虑到从hugging face获取可能较慢，建议从魔塔社区下载，指定缓存路径以优化存储。
启动运行 ChatGLM3 运行命令加载模型并启动 demo。输入 streamlit run main.py 后等待加载，加载完毕后，即可看到 ChatGLM3 页面。模型量化 默认以 FP16 精度加载，若显存有限，可尝试 4-bit 量化方式加载，性能略有损失但依然流畅。
大模型参数高效微调技术实战(三)-P-Tuning
1、我们深入探讨了大模型参数高效微调技术，以期对这一领域的核心原理有更深入的理解。通过分析，我们了解到P-Tuning（论文：GPT Understands， Too）这一方法将Prompt转换为可学习的Embedding层，并采用MLP+LSTM对Prompt Embedding进行处理。
2、其技术原理在于在每一层加入Prompt tokens作为输入，相较于仅在输入层加入的策略，P-Tuning v2在复杂任务中表现出与全参数微调相匹敌的性能，尤其在序列标注任务上取得了显著优势，成为微调的综合替代方案。
3、重点内容： virtual token的处理：是Ptuning的关键，通过MLP和LSTM进行编码，提高了模型的适应能力。 微调参数的选择：根据标注数据的多少，选择合适的微调策略，以平衡模型性能和训练效率。 适应下游任务的策略：通过自动学习和优化virtual token，使模型能够更好地适应不同的下游任务。
4、Prefix-tuning 的主要目的是为了在大模型微调时减少参数量的更新，其灵感来源于提示词调优。Prefix-tuning 通过在输入文本中插入连续的权重向量，而不是离散的提示词，来控制模型的输出。这种方法可以通过反向传播进行优化，从而提高模型对下游任务的适应性。
5、为解决此问题，提出了一种名为P-tuning的方法。P-tuning通过额外的向量函数将离散提示映射到连续向量，然后通过更新这些向量来优化损失函数。具体操作中，将文本输入预训练模型的向量层，得到每个离散token的向量表示。面对不同形式且意义一致的提示，模型性能会出现较大波动。
通俗解读大模型微调Fine-Tuning
1、大模型微调方法的通俗解读如下： LoRA方法： 核心思想：基于模型的内在低秩特性，通过增加旁路矩阵来模拟全参数微调。 优点：实现轻量级的微调方案，适用于大规模预训练模型的下游任务，减少了计算和存储资源的需求。
2、大模型微调是一种针对预训练大模型的优化技术，旨在通过调整模型参数，使其在特定任务或领域上表现更佳。以下是通俗解读： 微调的核心目的： 避免高昂训练成本：预训练大模型已经在大规模数据集上进行了训练，微调可以在此基础上进行小范围调整，无需从头开始训练。
3、我们深入浅出地理解大模型微调（Fine Tuning）技术，以揭示其背后的原理和应用价值。在AI时代，预训练大模型如同基础设施一般，对大多数用户而言，掌握如何高效利用大模型的技术尤为重要。
4、Fine-tuning，即微调，是基于已预先训练的模型，通过调整参数来适应新任务的一种策略。它与迁移学习相辅相成，前者是后者的具体实现。迁移学习旨在利用已学习的知识来解决新问题，而微调则是将预训练模型作为起点，针对特定任务进行调整。
大模型参数高效微调技术实战(一)-PEFT概述
PEFT技术概览PEFT技术旨在提高大模型微调的效率，减少计算资源消耗，实现快速且高质量的模型调整。它的核心在于利用模型的先验知识，针对特定任务进行参数优化，而不是从零开始训练整个模型。PEFT技术支持多种高效微调方法，涵盖从模型结构改进到训练策略优化等各个方面，以适应不同的任务需求。
PEFT的定义与重要性 定义：PEFT是一种在大模型时代用于迁移学习的技术，旨在通过微调少量额外参数，达到与全参数微调相近的效果。 重要性：随着模型规模的增大，全参数微调在内存和效率上面临巨大挑战。PEFT技术的出现，解决了这一问题，使得大模型的调优更加高效和资源友好。
微调是AI模型的关键技术，特别是在迁移学习中广泛应用。在“小模型”时代，全参数微调（full fine tuning）相对容易实现，但随着GPT系列大模型的兴起，几亿参数量的语言模型成为主流。这种背景下，全参数微调不仅耗时长、消耗显存，PEFT（Parameter-Efficient Fine-Tuning）方法变得尤为重要。
PEFT是一种模型参数高效微调技术，旨在降低大型预训练模型的训练成本并提升性能。以下是PEFT的详细介绍：技术目标：减少微调参数数量：通过仅调整模型的部分参数，而非全部参数，来降低训练成本。降低计算复杂度：在保持模型性能的同时，减少计算资源的需求。
保证了模型性能。总结来说，PEFT技术为大模型微调提供了高效且资源友好的解决方案，通过微调少量额外参数，实现了与全参数微调相当的性能。LoRA和QLoRA成为首选，而其他方法如Adapter和P-Tuning系列则根据特定任务和应用场景有所不同。这些方法的创新和优化，展现了AI技术在适应性和效率上的持续进步。
大模型参数高效微调(PEFT)
PEFT的定义与重要性 定义：PEFT是一种在大模型时代用于迁移学习的技术chgpt全量微调，旨在通过微调少量额外参数，达到与全参数微调相近的效果。 重要性：随着模型规模的增大，全参数微调在内存和效率上面临巨大挑战。PEFT技术的出现，解决了这一问题，使得大模型的调优更加高效和资源友好。
PEFT技术概览PEFT技术旨在提高大模型微调的效率，减少计算资源消耗，实现快速且高质量的模型调整。它的核心在于利用模型的先验知识，针对特定任务进行参数优化，而不是从零开始训练整个模型。PEFT技术支持多种高效微调方法，涵盖从模型结构改进到训练策略优化等各个方面，以适应不同的任务需求。
PEFT通过引入适配器层（Adapter Tuning）或前缀（Prefix Tuning）等机制，将微调过程聚焦在模型的关键部分，从而减少了需要更新的参数量。以适配器层为例，它允许我们在不改变原始预训练模型结构的情况下，通过添加少量的神经网络层来适应新任务，这不仅大大节省了计算资源，还避免了从头训练整个模型的必要性。
微调是AI模型的关键技术，特别是在迁移学习中广泛应用。在“小模型”时代，全参数微调（full fine tuning）相对容易实现，但随着GPT系列大模型的兴起，几亿参数量的语言模型成为主流。这种背景下，全参数微调不仅耗时长、消耗显存，PEFT（Parameter-Efficient Fine-Tuning）方法变得尤为重要。
PEFT的关键在于只调整少量或额外的模型参数，保持预训练参数稳定，从而大幅降低计算和存储成本，且技术进步使其性能接近全量微调。
保证了模型性能。总结来说，PEFT技术为大模型微调提供了高效且资源友好的解决方案，通过微调少量额外参数，实现了与全参数微调相当的性能。LoRA和QLoRA成为首选，而其chgpt全量微调他方法如Adapter和P-Tuning系列则根据特定任务和应用场景有所不同。这些方法的创新和优化，展现了AI技术在适应性和效率上的持续进步。
