《PyTorch面试精华》


1 前言
    1.1  PyTorch安装

    1.2  显卡驱动的困惑

    1.3  CUDA安装注意事项

    1.4  cuDNN的介绍

    1.5  Pytorch Lightning介绍

    1.6  PyTorch学习之道

    1.7  PyTorch快速入门

    1.8  PyTorch调参之道

    1.9  PyTorch调参套件

    1.10  手动创建虚拟环境

2 深度学习之数学基础
    2.1  希腊字母解读

    2.2  梯度的物理意义

    2.3  图解梯度下降法

    2.4  图解梯度上升法

    2.5  自然梯度

    2.6  泰勒公式的介绍

    2.7  信息与信息熵

    2.8  重要性采样

    2.10  欧几里得范数

    2.11  特征值和特征向量

    2.12  似然函数的理解

    2.13  矩阵秩的深刻理解

3 PyTorch入门疑难点
4 PyTorch全局设置
    4.1  全局设置当前设备

    4.2  全局设置浮点精度

5 PyTorch GPU分布式训练
    5.1  PyTorch GPU基础操作

    5.2  DataParallel用法详解

    5.3  GPU分布式训练模型

    5.4  CUDA_VISIBLE_DEVICES

    5.5  device详细说明

    5.6  to(device)和.cuda()

    5.7  CUDA设备索引

    5.8  GPU设备索引

6 向量的基础与核心
    6.1  Tensor的组成与存储

    6.2  Tensor的grad属性

    6.4  Tensor的叠加

    6.5  禁用梯度计算

    6.6  向量的保存和加载

    6.7  参数向量

    6.8  叶子节点

    6.9  detach原理

    6.10  requires_grad属性

    6.11  Tensor与Numpy互换

    6.12  张量cat操作

    6.13  零维张量

    6.15  squeeze/unsqu...函数

    6.16  argmax和max的区别

    6.17  torch.as_tensor的应用

7 神经网络基础
    7.2  PyTorch计算图

    7.3  查看网络权重参数

    7.4  保存模型

    7.5  Adam相关面试题

    7.6  Train模式和Eval模式

    7.7  线性网络

    7.8  双线性网络

    7.9  惰性线性层

    7.10  PyTorch中的自动微分

    7.12  Dropout机制

    7.13  半精度训练

    7.14  Xavier初始化

    7.15  注意力机制

    7.16  Dataset数据处理

    7.17  StepLR学习率调度器

    7.18  词嵌入的理解

    7.19  TensorDataset的使用

    7.20  模型的保存与加载

    7.21  ModuleList和Sequential

    7.22  Batch Normalization介绍

8 计算机视觉基础知识
    8.1  通道的深刻理解

    8.2  1x1卷积的作用

    8.3  特征提取和可视化

    8.4  反卷积的推导

    8.5  理解卷积

    8.7  空洞卷积

    8.8  池化层的作用

    8.9  感受野与特征图

    8.10  NMS算法

    8.11  特征图尺寸计算

9 循环神经网络基础
    9.2  RNN的介绍

10 注意力机制
    10.1  位置编码的作用

    10.2  位置编码的种类

    10.4  Embedding本质理解

    10.6  Transformer VS CNN/RNN

    10.7  ELMo介绍

11 PyTorch归一化
    11.2  层归一化技术详解

12 激活函数相关内容
    12.1  激活函数简介

    12.2  万能逼近定理

    12.3  指数函数的学习

    12.4  Sigmoid函数的介绍

    12.5  Tanh函数的介绍

    12.6  Softmax函数的实现

    12.7  ReLU函数的介绍

    12.8  Leaky Relu函数的介绍

    12.9  ReLu与非线性的理解

    12.10  Parametric ReLU函数

    12.11  ELU函数介绍

    12.12  神经元死亡的问题

13 思考题的答案
    13.1  思考题的答案解密

希腊字母解读

创建时间:2024-12-24 更新时间:2024-12-24 阅读次数:1888 次

1、前言

今年爆发了姜萍事件,引发了社会上的巨大争议,同时也反映了整个社会对数学这个学科还是非常重视的。说心里话,我总感觉中国人的数学并不好。逢年过节,各大公园和游乐场所人山人海,大家都沉浸于美好节日的喜悦和传统文化的魅力,但是你却很难发现一丝数学的身影。与之形成鲜明对比的是,在法国的著名景点——埃菲尔铁塔上刻有70多位法国科学家、工程师和数学家的名字。法国是历史悠久的数学强国,中国要想成为数学强国,也应该把数学刻在文化里,刻在骨子里。

我认为,数学不仅仅是公式,更是一种文化。刷题只是学好数学的一个环节而已,学好数学文化才是根本的发展之路。本节讲述的希腊字母解读,就是数学文化中很重要第一个组成部分。

2、希腊字母列表

3、希腊字母解读

3.1、普西

了解心理学的朋友,应该都见过这个符号吧。

这个像小叉子形状的符号,来自于希腊语。它是希腊语的第二十三个字母。在希腊语里面,它有“灵魂”的意思。

实际上,这个字母ψ,也是希腊语中“灵魂”(ψυχή)这一单词的首字母。心理学最初的含义,也许就是“研究灵魂”…… 根据古希腊人的看法,它代表着所有——有生命的事物——所具有的那种活力、气息。

这个字母大家可以读作“普西”、或者“普赛”(psi,音标:[psaɪ])。这个字母后来在英语里面,演变为单词psyche,意思是“灵魂、心灵、精神、心态”,也是英语心理学Psychology(音标:[saɪˈkɒlədʒi])一词的来源。

3.2、chi

“chi”是希腊字母中的第22个字母,大写为“Χ”,小写为“χ” 。其读音为英 [kaɪ]、美 [kaɪ]

在数学、物理、工程等领域中,希腊字母常被用来表示特定的变量、常数或概念。例如,在统计学中,χ²(卡方)分布是一种常用的概率分布;在电磁学中,χ表示磁化率等。

此外,在一些特定的术语或概念中也会出现“chi”。比如在生物学中提到的“Chi结构”,是指人们研究大肠杆菌的环形质粒时发现的一种8字形重组结构,经酶切后有4条臂,形如希腊字母χ,所以称作Chi结构,在酵母等多种生物体内也发现了类似结构,它是Holliday中间体存在的证据。

3.3、upsilon

顺便说一句,υ与另一个希腊字母ν看起来挺像,后者叫做nu,在物理中使用频繁,例如用来表示光子的频率或者中微子。但也许为了避免混淆,υ几乎没怎么被使用,除非你以为代表速度的拉丁字母v就是它。

3.4、若干补充

有一些大写的希腊字母 其写法与相应的拉丁字母相同或十分相似,因而不会被使用,例如:A、B、E、H、I、K、M、N、O、P、T、X、Y、Z 。

除此之外,由于小写的 ι(iota),ο(omicron)和 υ(upsilon)跟拉丁字母中的 i、o 和 u 很相似,所以也很少被使用。

本教程共117节,当前为第11节!
本教程最新修订时间为:2026-05-08 11:10:53