《PyTorch面试精华》


1 前言
    1.1  PyTorch安装

    1.2  显卡驱动的困惑

    1.3  CUDA安装注意事项

    1.4  cuDNN的介绍

    1.5  Pytorch Lightning介绍

    1.6  PyTorch学习之道

    1.7  PyTorch快速入门

    1.8  PyTorch调参之道

    1.9  PyTorch调参套件

    1.10  手动创建虚拟环境

2 深度学习之数学基础
    2.1  希腊字母解读

    2.2  梯度的物理意义

    2.3  图解梯度下降法

    2.4  图解梯度上升法

    2.5  自然梯度

    2.6  泰勒公式的介绍

    2.7  信息与信息熵

    2.8  重要性采样

    2.10  欧几里得范数

    2.11  特征值和特征向量

    2.12  似然函数的理解

    2.13  矩阵秩的深刻理解

3 PyTorch入门疑难点
4 PyTorch全局设置
    4.1  全局设置当前设备

    4.2  全局设置浮点精度

5 PyTorch GPU分布式训练
    5.1  PyTorch GPU基础操作

    5.2  DataParallel用法详解

    5.3  GPU分布式训练模型

    5.4  CUDA_VISIBLE_DEVICES

    5.5  device详细说明

    5.6  to(device)和.cuda()

    5.7  CUDA设备索引

    5.8  GPU设备索引

6 向量的基础与核心
    6.1  Tensor的组成与存储

    6.2  Tensor的grad属性

    6.4  Tensor的叠加

    6.5  禁用梯度计算

    6.6  向量的保存和加载

    6.7  参数向量

    6.8  叶子节点

    6.9  detach原理

    6.10  requires_grad属性

    6.11  Tensor与Numpy互换

    6.12  张量cat操作

    6.13  零维张量

    6.15  squeeze/unsqu...函数

    6.16  argmax和max的区别

    6.17  torch.as_tensor的应用

7 神经网络基础
    7.2  PyTorch计算图

    7.3  查看网络权重参数

    7.4  保存模型

    7.5  Adam相关面试题

    7.6  Train模式和Eval模式

    7.7  线性网络

    7.8  双线性网络

    7.9  惰性线性层

    7.10  PyTorch中的自动微分

    7.12  Dropout机制

    7.13  半精度训练

    7.14  Xavier初始化

    7.15  注意力机制

    7.16  Dataset数据处理

    7.17  StepLR学习率调度器

    7.18  词嵌入的理解

    7.19  TensorDataset的使用

    7.20  模型的保存与加载

    7.21  ModuleList和Sequential

    7.22  Batch Normalization介绍

8 计算机视觉基础知识
    8.1  通道的深刻理解

    8.2  1x1卷积的作用

    8.3  特征提取和可视化

    8.4  反卷积的推导

    8.5  理解卷积

    8.7  空洞卷积

    8.8  池化层的作用

    8.9  感受野与特征图

    8.10  NMS算法

    8.11  特征图尺寸计算

9 循环神经网络基础
    9.2  RNN的介绍

10 注意力机制
    10.1  位置编码的作用

    10.2  位置编码的种类

    10.4  Embedding本质理解

    10.6  Transformer VS CNN/RNN

    10.7  ELMo介绍

11 PyTorch归一化
    11.2  层归一化技术详解

12 激活函数相关内容
    12.1  激活函数简介

    12.2  万能逼近定理

    12.3  指数函数的学习

    12.4  Sigmoid函数的介绍

    12.5  Tanh函数的介绍

    12.6  Softmax函数的实现

    12.7  ReLU函数的介绍

    12.8  Leaky Relu函数的介绍

    12.9  ReLu与非线性的理解

    12.10  Parametric ReLU函数

    12.11  ELU函数介绍

    12.12  神经元死亡的问题

13 思考题的答案
    13.1  思考题的答案解密

squeeze/unsqueeze函数的使用介绍

创建时间:2024-12-22 更新时间:2024-12-22 阅读次数:1644 次

前言

在 Pytorch 中,squeeze 和 unsqueeze 是两个非常有用的函数。它们用于在张量(tensor)中增加或减少维度。主要作用是对张量进行维度的调整和变换,方便进行各种矩阵和向量运算。

具体来说,squeeze 是用来减少维度的函数,它会去除张量中维度为1的维度,从而使张量变得更紧凑。而 unsqueeze 则是用来增加维度的函数,它会在张量的指定位置增加一个维度。

squeeze 函数的用法介绍

squeeze 函数的用法非常简单,它只接受一个参数,即要进行维度减少的张量。下面是一个示例:

import torch

# 创建一个维度为 (1, 3, 1, 5) 的张量
x = torch.randn(1, 3, 1, 5)

# 使用 squeeze 函数减少维度
y = torch.squeeze(x)

print("原始张量 x 的维度:", x.size())
print("减少维度后的张量 y 的维度:", y.size())

运行以上代码,我们可以得到如下输出:

原始张量 x 的维度: torch.Size([1, 3, 1, 5])
减少维度后的张量 y 的维度: torch.Size([3, 5])

可以看到,原始张量 x 的维度是 (1, 3, 1, 5),其中第一个和第三个维度都是1。而经过 squeeze 函数处理后,张量 y 的维度变为了 (3, 5),去除了原始张量中那些为1的维度。

unsqueeze 函数的用法

unsqueeze 函数的用法稍微复杂一些,它需要接受两个参数,第一个是要增加维度的张量,第二个是指定要增加的位置。下面是一个示例1:

import torch

# 创建一个维度为 (3, 5) 的张量
x = torch.randn(3, 5)

# 使用 unsqueeze 函数增加维度
y = torch.unsqueeze(x, 0)

print("原始张量 x 的维度:", x.size())
print("增加维度后的张量 y 的维度:", y.size())

运行以上代码,我们可以得到如下输出:

原始张量 x 的维度: torch.Size([3, 5])
增加维度后的张量 y 的维度: torch.Size([1, 3, 5])

可以看到,原始张量 x 的维度是 (3, 5),而经过 unsqueeze 函数处理后,我们在第一个位置增加了一个维度,使得张量 y 的维度变为了 (1, 3, 5),增加了一个长度为1的维度。

为了更好的说明unsqueeze 函数的用法,下面是一个示例2:

import torch

# 创建一个一维张量
x = torch.tensor([1, 2, 3, 4])

# 在第0维增加一个新维度
x_unsqueeze_0 = torch.unsqueeze(x, 0)
print(x_unsqueeze_0)
# 输出: tensor([[1, 2, 3, 4]])

# 在第1维增加一个新维度
x_unsqueeze_1 = torch.unsqueeze(x, 1)
print(x_unsqueeze_1)
# 输出: tensor([[1], [2], [3], [4]])

unsqueeze函数接受两个参数:输入张量和要插入新维度的索引。索引可以是正数或负数,负数索引表示从张量的末尾开始计算。例如,-1表示在最后一个维度之前添加一个新维度。

重要提醒1:这个函数不会改变原始张量的数据,而是返回一个新的张量,新张量与原始张量共享相同的数据,但形状不同。这意味着对新张量的修改也会影响原始张量,因为它们共享相同的内存。

重要提醒2:使用unsqueeze时需要注意维度索引,以确保提供的维度索引在允许的范围内,即[-input.dim()-1, input.dim()+1)。

本教程共117节,当前为第55节!
本教程最新修订时间为:2026-05-08 11:10:53