《PyTorch面试精华》


1 前言
    1.1  PyTorch安装

    1.2  显卡驱动的困惑

    1.3  CUDA安装注意事项

    1.4  cuDNN的介绍

    1.5  Pytorch Lightning介绍

    1.6  PyTorch学习之道

    1.7  PyTorch快速入门

    1.8  PyTorch调参之道

    1.9  PyTorch调参套件

    1.10  手动创建虚拟环境

2 深度学习之数学基础
    2.1  希腊字母解读

    2.2  梯度的物理意义

    2.3  图解梯度下降法

    2.4  图解梯度上升法

    2.5  自然梯度

    2.6  泰勒公式的介绍

    2.7  信息与信息熵

    2.8  重要性采样

    2.10  欧几里得范数

    2.11  特征值和特征向量

    2.12  似然函数的理解

    2.13  矩阵秩的深刻理解

3 PyTorch入门疑难点
4 PyTorch全局设置
    4.1  全局设置当前设备

    4.2  全局设置浮点精度

5 PyTorch GPU分布式训练
    5.1  PyTorch GPU基础操作

    5.2  DataParallel用法详解

    5.3  GPU分布式训练模型

    5.4  CUDA_VISIBLE_DEVICES

    5.5  device详细说明

    5.6  to(device)和.cuda()

    5.7  CUDA设备索引

    5.8  GPU设备索引

6 向量的基础与核心
    6.1  Tensor的组成与存储

    6.2  Tensor的grad属性

    6.4  Tensor的叠加

    6.5  禁用梯度计算

    6.6  向量的保存和加载

    6.7  参数向量

    6.8  叶子节点

    6.9  detach原理

    6.10  requires_grad属性

    6.11  Tensor与Numpy互换

    6.12  张量cat操作

    6.13  零维张量

    6.15  squeeze/unsqu...函数

    6.16  argmax和max的区别

    6.17  torch.as_tensor的应用

7 神经网络基础
    7.2  PyTorch计算图

    7.3  查看网络权重参数

    7.4  保存模型

    7.5  Adam相关面试题

    7.6  Train模式和Eval模式

    7.7  线性网络

    7.8  双线性网络

    7.9  惰性线性层

    7.10  PyTorch中的自动微分

    7.12  Dropout机制

    7.13  半精度训练

    7.14  Xavier初始化

    7.15  注意力机制

    7.16  Dataset数据处理

    7.17  StepLR学习率调度器

    7.18  词嵌入的理解

    7.19  TensorDataset的使用

    7.20  模型的保存与加载

    7.21  ModuleList和Sequential

    7.22  Batch Normalization介绍

8 计算机视觉基础知识
    8.1  通道的深刻理解

    8.2  1x1卷积的作用

    8.3  特征提取和可视化

    8.4  反卷积的推导

    8.5  理解卷积

    8.7  空洞卷积

    8.8  池化层的作用

    8.9  感受野与特征图

    8.10  NMS算法

    8.11  特征图尺寸计算

9 循环神经网络基础
    9.2  RNN的介绍

10 注意力机制
    10.1  位置编码的作用

    10.2  位置编码的种类

    10.4  Embedding本质理解

    10.6  Transformer VS CNN/RNN

    10.7  ELMo介绍

11 PyTorch归一化
    11.2  层归一化技术详解

12 激活函数相关内容
    12.1  激活函数简介

    12.2  万能逼近定理

    12.3  指数函数的学习

    12.4  Sigmoid函数的介绍

    12.5  Tanh函数的介绍

    12.6  Softmax函数的实现

    12.7  ReLU函数的介绍

    12.8  Leaky Relu函数的介绍

    12.9  ReLu与非线性的理解

    12.10  Parametric ReLU函数

    12.11  ELU函数介绍

    12.12  神经元死亡的问题

13 思考题的答案
    13.1  思考题的答案解密

似然函数的理解

创建时间:2025-11-07 更新时间:2026-01-29 阅读次数:1228 次

1、似然函数的简介

似然函数是衡量一个统计模型在给定观测数据下,其参数合理性的一种度量。它告诉我们,在不同的参数取值下,我们当前观测到的这组数据"有多大可能"会发生。


2、似然函数的核心思想:反转"概率"的逻辑

要理解似然函数,关键在于区分 "概率""似然"

  • 概率:在已知参数(例如,已知一枚硬币是均匀的,正面概率p=0.5)的情况下,预测未来观测结果的可能性。我们经常碰到的概率问题往往是这样的:给定p=0.5,抛掷10次得到6次正面的概率值是多少?

  • 似然:在已知观测结果(例如,我们抛掷了10次,得到了6次正面)的情况下,反过来评估不同参数的可能性。我们经常碰到的似然问题往往是这样的:我们观测到了"10次里出6次正面"这个结果,那么正面概率p=0.5p=0.6p=0.7... 的似然值分别是多少?

综上所述,我们可以得出结论:概率是"由因推果",而似然是"由果探因"。概率用于在已知一些参数的情况下,预测接下来的观测所得到的结果,而似然性则是用于在已知某些观测所得到的结果时,对有关事物的性质的参数进行估计。


3、通过抛硬币来理解似然问题

假设我们抛一枚硬币10次,观察到有6次是正面(Head),4次是反面(Tail)。我们想知道这枚硬币是均匀的吗?即正面的概率 p 是多少?

3.1、建立模型

因为每次抛掷是独立的伯努利试验,正面概率为 p。那么,得到6次正面的概率(即似然函数)是: L(p) = P(6次正面 | 抛硬币10次) = C(10, 6) · p⁶ · (1-p)⁴ 其中 C(10, 6) 是组合数,是一个常数,可以忽略,因为与参数p无关。

3.2、计算不同p的似然值

  • 如果硬币是均匀的,即p = 0.5,则计算出的似然值是: L(0.5) ∝ 0.5⁶ · 0.5⁴ = 0.000976

  • 如果硬币的 p = 0.6(正好等于观测到的正面比例),则计算出的似然值是: L(0.6) ∝ 0.6⁶ · 0.4⁴ ≈ 0.001194

  • 如果硬币的 p = 0.1(几乎总是反面),则计算出的似然值是: L(0.1) ∝ 0.1⁶ · 0.9⁴ ≈ 0.000000066

3.3、解读

比较这些值,我们发现 L(0.6) > L(0.5) > L(0.1)。这意味着,在观测到"10次里出6次正面"这个数据后,参数 p=0.6似然最高。也就是说,在所有可能的 p 中,p=0.6 这个值让当前观测到的数据最有可能发生。


4、最大似然估计

上述例子自然地引出了统计学中一个极其重要的概念——最大似然估计

最大似然估计 的核心思想就是:找到一个参数值,使得似然函数的值达到最大。因为这个参数值能最好地解释我们当前观测到的数据。

在上面的例子中,p = 0.6 就是参数 p最大似然估计值。这非常直观,因为观测到的正面比例就是 6/10 = 0.6。

本教程共117节,当前为第22节!
本教程最新修订时间为:2026-05-08 11:10:53