__call__ __init__ python方法为什么是这种形式，怎么调用；为什么python中py文件名和类名不一致 ；RoPE是一种用于Transformer的位置编码方法；激活函数和归一化

目录

__call__ __init__  python方法为什么是这种形式，怎么调用

__init__ 方法

__call__ 方法

总结

为什么python中py文件名和类名不一致 

RoPE是一种用于Transformer的位置编码方法

基本原理

举例说明

优点

激活函数和归一化，残差连接的作用

激活函数的作用

归一化的作用

残差连接的作用

---

__call__ __init__  python方法为什么是这种形式，怎么调用

在Python中，__init__ 和 __call__ 是两个特殊的方法（也称为魔法方法或双下划线方法），它们各自有特定的用途和调用方式。

__init__ 方法

__init__ 方法是一个类的构造函数。当你创建一个类的新实例时，Python会自动调用这个方法。它的主要目的是初始化新创建的对象。

调用方式：
__init__ 方法不是直接