文章目录
- 一、图像分类数学知识前置
-
- 1.矩阵加法运算
-
- 1、理论
- 2、代码实现
- 2.矩阵和数乘法运算
-
- 1、理论
- 2、代码实现
- 3.矩阵乘法运算
-
- 1、理论
- 2、代码实现
- 4.算子
- 5.卷积
- 6.求导法则
- 7.反向传播
- 8.MNIST
- 9.Imagenet
- 10.批归一化（Batch Normalization）Batch normalization applies a transformation that maintains the mean output close to 0 and the output standard deviation close to 1.
- 11.感受野
- 几篇参考文献
- 二、图像分类
-
- 1.图像分类竞赛全流程工具
- 2、图形处理
-
- 1.EDA（Exploratory Data Analysis）与数据预处理
- 2.图像标准化与归一化
- 3、Baseline选择
- 4、模型训练
- 5、预测模型
- https://aistudio.baidu.com/aistudio/course/introduce/11939irectly=1&shared=1
一、图像分类数学知识前置
1.矩阵加法运算
1、理论
I2 = I1 + b
1.1 如果I1和b维度一致时，结果为两个矩阵对应项相加。
1.2 如果I1和b维度不一致，但是满足一定条件，亦可进行加法计算。
假设I1的矩阵形状为shape_I1=（h,w,c）,那么在b的矩阵形状shape_b为shape_I1的某个切片相等时，I1和b矩阵可以进行“广播”相加。
2、代码实现
2.矩阵和数乘法运算
1、理论
I3 = a * I1
I1各个元素分别乘以a
2、代码实现
3.矩阵乘法运算
1、理论
I2 = I1 * A
- 二维矩阵
I1的r行向量与A的c列向量的点积作为I3的（r,c）元素 - 多维矩阵
所得结果的后两维的shape与二维矩阵的计算方式一致。不同的是高维度（3位以上）的尺寸大小的计算方式-取较大的尺寸。作为多维矩阵，数据还是保持在后两维中，高维度只是数据的排列方式的定义。本质上，高维矩阵的乘法还是二维矩阵之间的乘法，再加上排列方法的保持，当高维尺寸不同时，只要可以“广播”，就依然可以计算。
譬如：
2.1 I1的shape为 (c,n,s),A的shape为（c，s，m）时，I2的shape为（c,n,m).
结果shape的计算过程：I1的后两维shape为（n,s), A的后两维shape为（s,m),类似于二维矩阵乘法所得结果的后两维shape为（n,m), 高维度的尺寸取c。
2.2 I1的shape为 (n,c,h,s),A的shape为（1,1，s，w）时，I2的shape为（n,c,h,w).
结果shape的计算过程：I1的后两维shape为（h,s), A的后两维shape为（s,m),类似于二维矩阵乘法所得结果的后两维shape为（h,w), 高维度的尺寸取（n,c）和（1,1）中尺寸较大值（n,c）。
2、代码实现
import numpy as npI1 = [[j*4+i for i in range(4)] for j in range(4)]I1 = np.array(I1,dtype='float32')A = np.random.uniform(0,1,(4,4))## 二维矩阵乘法 1I2 = np.matmul(I1,A)## 二维矩阵乘法 2I3 = np.来源：扬志九洲
声明：本站部分文章及图片转载于互联网，内容版权归原作者所有，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！