【译】深度学习数学基础

1 minute read

这一部分介绍了理解深度学习所需的基本数学概念,包括线性代数、概率论和数值计算。

线性代数

线性代数作为一门数学分支,广泛应用于科学和工程。掌握好线性代数对于我们再去理解和从事机器学习算法特别是深度学习算法相关工作还是很有必要的。

标量、向量、矩阵和张量

  • 标量是一个单独的数,通常我们会说“”,当定义一个实数标量时;“”,当定义一个自然数标量时。
  • 向量是一列数,通常这样定义一个向量: 有时我们需要索引向量中的一些元素。在这种情况下,我们定义一个包含这些元素索引的集合,并且将集合写在脚标处。比如,我们写作表示包含除了的所有元素,表示包含除了的所有元素。
  • 矩阵可以理解为一个二维数组,通常通过定义一个矩阵,使用来取一个项;同时还有 来表示第i行。我没用方括号括起来表示矩阵 有时候,我们需要索引矩阵表达式,而不是单个字母。在这种情况下,我们在表达式后面接下标,但不必将其小写化,比如,表示函数作用在上输出的矩阵的元素
  • 张量表示超过两维的数组,一般用表示,并写作

相关运算

Creative Commons License
This work is licensed under a Creative Commons Attribution 4.0 International License.