✨ 复制成功!

以文会友,打造好学人设!

📋 已复制到剪贴板:

《PyTorch入门精华》


1 前言
    1.1  PyTorch安装

    1.2  显卡驱动的困惑

    1.3  CUDA安装注意事项

    1.4  cuDNN的介绍

    1.5  Pytorch Lightning介绍

    1.6  PyTorch学习之道

    1.7  PyTorch快速入门

    1.8  PyTorch调参之道

    1.9  PyTorch调参套件

    1.10  手动创建虚拟环境

2 深度学习之数学基础
    2.1  希腊字母解读

    2.2  梯度的物理意义

    2.3  图解梯度下降法

    2.4  图解梯度上升法

    2.5  自然梯度

    2.6  泰勒公式的介绍

    2.7  信息与信息熵

    2.8  重要性采样

    2.10  欧几里得范数

    2.11  特征值和特征向量

    2.12  似然函数的理解

    2.13  矩阵秩的深刻理解

3 PyTorch入门疑难点
4 PyTorch全局设置
    4.1  全局设置当前设备

    4.2  全局设置浮点精度

5 PyTorch GPU分布式训练
    5.1  PyTorch GPU基础操作

    5.2  DataParallel用法详解

    5.3  GPU分布式训练模型

    5.4  CUDA_VISIBLE_DEVICES

    5.5  device详细说明

    5.6  to(device)和.cuda()

    5.7  CUDA设备索引

    5.8  GPU设备索引

6 向量的基础与核心
    6.1  Tensor的组成与存储

    6.2  Tensor的grad属性

    6.4  Tensor的叠加

    6.5  禁用梯度计算

    6.6  向量的保存和加载

    6.7  参数向量

    6.8  叶子节点

    6.9  detach原理

    6.10  requires_grad属性

    6.11  Tensor与Numpy互换

    6.12  张量cat操作

    6.13  零维张量

    6.15  squeeze/unsqu...函数

    6.16  argmax和max的区别

    6.17  torch.as_tensor的应用

7 神经网络基础
    7.2  PyTorch计算图

    7.3  查看网络权重参数

    7.4  保存模型

    7.5  Adam相关面试题

    7.6  Train模式和Eval模式

    7.7  线性网络

    7.8  双线性网络

    7.9  惰性线性层

    7.10  PyTorch中的自动微分

    7.12  Dropout机制

    7.13  半精度训练

    7.14  Xavier初始化

    7.15  注意力机制

    7.16  Dataset数据处理

    7.17  StepLR学习率调度器

    7.18  词嵌入的理解

    7.19  TensorDataset的使用

    7.20  模型的保存与加载

    7.21  ModuleList和Sequential

    7.22  Batch Normalization介绍

8 计算机视觉基础知识
    8.1  通道的深刻理解

    8.2  1x1卷积的作用

    8.3  特征提取和可视化

    8.4  反卷积的推导

    8.5  理解卷积

    8.7  空洞卷积

    8.8  池化层的作用

    8.9  感受野与特征图

    8.10  NMS算法

    8.11  特征图尺寸计算

9 循环神经网络基础
    9.2  RNN的介绍

10 注意力机制
    10.1  位置编码的作用

    10.2  位置编码的种类

    10.4  Embedding本质理解

    10.6  Transformer VS CNN/RNN

    10.7  ELMo介绍

11 PyTorch归一化
    11.2  层归一化技术详解

12 激活函数相关内容
    12.1  激活函数简介

    12.2  万能逼近定理

    12.3  指数函数的学习

    12.4  Sigmoid函数的介绍

    12.5  Tanh函数的介绍

    12.6  Softmax函数的实现

    12.7  ReLU函数的介绍

    12.8  Leaky Relu函数的介绍

    12.9  ReLu与非线性的理解

    12.10  Parametric ReLU函数

    12.11  ELU函数介绍

    12.12  神经元死亡的问题

13 思考题的答案
    13.1  思考题的答案解密

欧几里得范数是什么?它有什么用?

创建时间:2025-03-17 更新时间:2025-08-26 阅读次数:1589 次

欧几里得范数(Euclidean norm),也称为 2-范数L2范数,是向量空间中衡量向量长度的一种方式。对于一个 $ n $-维向量 $ \mathbf{x} = (x_1, x_2, \cdots, x_n) $,其欧几里得范数定义为:

$$ |\mathbf{x}|_2 = \sqrt{x_1^2 + x_2^2 + \cdots + x_n^2} $$

欧几里得范数的用途

1、 衡量向量的长度: 欧几里得范数最直观的用途是计算向量在几何空间中的长度。例如,在二维或三维空间中,它对应的是点到原点的距离。

2、 距离度量: 在机器学习和数据科学中,欧几里得范数常用于计算两个向量之间的欧几里得距离(Euclidean distance),即: $$ d(\mathbf{x}, \mathbf{y}) = |\mathbf{x} - \mathbf{y}|_2 = \sqrt{(x_1 - y_1)^2 + (x_2 - y_2)^2 + \cdots + (x_n - y_n)^2} $$ 这种距离度量广泛应用于聚类算法(如K-means)和相似性分析。

3、 优化问题: 在优化问题中,欧几里得范数常用于定义目标函数或约束条件。例如,最小二乘法(Least Squares)的目标是最小化误差的欧几里得范数。

4、 正则化: 在机器学习中,L2正则化(也称为岭回归)使用欧几里得范数来惩罚模型参数的复杂度,从而防止过拟合。

5、 几何和物理中的应用: 在几何学中,欧几里得范数用于定义向量的长度和角度。而在物理学中,它用于计算力、速度等向量的模。

与其他范数的比较

  • L1范数(曼哈顿范数):$ |\mathbf{x}|_1 = |x_1| + |x_2| + \cdots + |x_n| $,L1范数倾向于产生稀疏解,即它会使得许多系数变为零。这在特征选择中非常有用,因为它可以帮助识别出对模型最重要的特征,从而减少模型的复杂度。
  • L∞范数(最大范数):$ |\mathbf{x}|_\infty = \max(|x_1|, |x_2|, \cdots, |x_n|) $,L∞范式是向量分量中绝对值最大的那个,适用于极端值问题。

欧几里得范数因其几何意义和数学性质,在科学和工程中应用广泛。

本教程共117节,当前为第20节!
本教程最新修订时间为:2026-08-07 09:17:18

📌 面试天下网:一款服务于上班族的口袋书,让大家在地铁里/公交上可以学习大模型技术!
📌 网站公告:程序出海:中国程序员当下最大的机遇>>>>>>