tensorflow框架转pytorch框架

最近在融合两份代码时，发现一份代码使用的是tensorflow而自己的代码使用的是pytorch框架。在转换过程中使用到的一些函数替换方法做一个简单的记录。

名称	TensorFlow	pytorch	np
二维卷积	tf.nn.conv2d(input,w, strides=[1,1,1,1], padding='SAME')	torch.nn.Conv2d(in_channels,mid_channels, kernel_size=(3,3),strides=(1,1),padding=(1,1))
生成张量(1的矩阵)	tf.ones(shape=(1，1，1，1)， dtype=tf.float32)	torch.ones(1,1,1,1)
创建张量	tf.constant(x)	torch.tensor(x)
relu激活函数	tf.nn.relu(x)	torch.nn.ReLU(x)
填充函数	tf.pad(input_x,[(a0,b0), (a1,b1),(a2,b2),(a3,b3)])	pad_num = (a3,b3,a2,b2,a1,b1,a0,b0) torch.nn.functional.pad(input_x, pad_num, mode='constant')
元素个数	tf.size(input_x)	torch.numel(input_x)
展平	tf.reshape(input_x, (tf.size(input_x),-1))	input_x.view(torch.numel(input_x),-1)
softmax	tf.nn.softmax(input_x,axis=1)	torch.nn.functional.softmax(input_x,dim=1)
调整类型	tf.cast(input_x,tf.int32)	input_x.type(torch.LongTensor)
去除维度1	tf.squeeze(input_x, squeeze_dims=1）	torch.squeeze(input_x)
合并	tf.concat((input_x1, input_x2),axis=3)	torch.cat((input_x1,input_x2),dim=3)
划分成相同维度的块	tf.split(input_x,axis=3, num_or_size_splits=2)	torch.chunk(input_x,dim=3,chunks=2)
重复	tf.tile()	input_.repeat()
交换维度	tf.transpose(input_x,[0,1,2,3])	input_x.permute((0,1,2,3)) 注意这种用法：p01.permute((0,2,3,1)).contiguous(). view(int(np.prod(shape01)),-1)
增加一个维度	tf.expand_dims		np.expand_dims
比较两个张量取最大值	tf.maximum（input_x）		np.maximum (input_x)
	tf.transpose(input,[1, 0, 2])	input.permute([1, 0, 2])
	tf.range(10)	torch.arange(0)
	tf.reduce_sum(x, axis=1, keep_dims=True)	torch.sum(x,dim=1,keepdim=True)
	tf.clip_by_value(x, min, max)	torch.clamp(x, min, max)
	tf.multinomial(logits=a, num_samples=1	torch.multinomial(input=a, num_samples=1, replacement=False)
	tf.equal(x, y)	torch.eq(x, y)
	tf.nn.embedding_lookup(W_fe, Feature_input + 1)	torch.index_select(W_fe, 0, Feature_input + 1)
	tf.one_hot()	functional.one_hot()

部分举例

 1、tf.maximum和np.maximum等价

2、torch.nn.Con2d 和 tf.nn.conv2d 的互相转换

torch：
data_c=padded[:,:,:,channel_idx:(channel_idx+1)]
conv2d=torch.nn.Conv2d(kernel_i[2],kernel_i[3],kernel_size=(kernel_i[0],kernel_i[1]),stride=(1,1),padding=(0,0))
data_c=conv2d(data_c)
tf：
data_c=padded[:,:,:,channel_idx:(channel_idx+1)]
data_c=tf.nn.conv2d(data_c,kernel_i,[1,1,1,1],'VALID')

3、tf.pad和torch.nn.functional.pad的相互转换

tf:    padded=tf.pad(img,[[0,0],[pad_w,pad_w],[pad_w,pad_w],[0,0]],mode='REFLECT')
Torch: pad_num=(0,0,pad_w,pad_w,pad_w,pad_w,0,0)
       padded=torch.nn.functional.pad(img,pad_num,mode='REFLECT')

4、tf.tile和torch.repeat的使用是一样的

tx_1=tf.tile(tx,[1,1,1,3])
tx_1=tx(1,1,1,3)

5、tf.newaxis 给tensor增加维度

     在torch中增加tensor维度的方法

        （1） 使用None来增加维度

        diff = X[:, None, :] - X[None, :, :]
        diff

        （2） 使用unsqueeze增加维度

        diff = X.unsqueeze(1) - X.unsqueeze(0)
        diff

        （3） 使用einpos.rearrange增加维度

        from einops import rearrange
        diff = rearrange(X, 'i j -> i () j') - rearrange(X, 'i j -> () i j')
        diff输出都是：

 6、tf.cast() 转 x.type() or x.to()

x=tf.cast(tf.range(-radius,radius+1),dtype=dtype)

x=torch.range(-radius,radius+1).type(dtype=dtype)

7、torch.tensor和tf.constant 相互转换

        张量的基本操作——创建张量

        在Python对象上创建，例如：列表， TensorFlow版本如下所示：

     
        PyTorch版本如下所示：

后续如果有类似的应用会继续补充。

                                                                                    -----2023.02.03

参考：1、https://blog.csdn.net/strawberry47/article/details/125100924

2、记录一下，tensorflow2.0和torch的函数移植对比_Tony Einstein的博客-CSDN博客_tensorflow torch