LLM：ChatGLM-6B模型文件modeling_chatglm.py讲解

u013250861

已于 2023-08-12 14:36:45 修改

阅读量631

点赞数

分类专栏： # LLM/经典模型文章标签：人工智能

于 2023-08-09 22:11:16 首次发布

本文链接：https://blog.csdn.net/u013250861/article/details/132198039

版权

LLM/经典模型专栏收录该内容

43 篇文章 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文深入讲解了LLM的ChatGLM-6B模型，重点剖析了modeling_chatglm.py文件中的核心概念和技术细节，帮助读者理解这一人工智能聊天模型的工作原理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

""" PyTorch ChatGLM model. """

import math
import copy
import os
import warnings
import re
import sys

import torch
import torch.utils.checkpoint
import torch.nn.functional as F
from torch import nn
from torch.nn import CrossEntropyLoss, LayerNorm
from torch.nn.utils import skip_init
from typing import Optional, Tuple, Union, List, Callable, Dict, Any

from transformers.utils import (
    add_code_sample_docstrings,
    add_start_docstrings,
    add_start_docstrings_to_model_forward,
)
from transformers.modeling_outputs import (
    BaseModelOutputWithPast,
    CausalLMOutputWithPast,
    BaseModelOutputWithPastAndCrossAttentions,
)
from transformers.modeling_utils import PreTrainedModel
from transformers.utils i

了解本专栏