pytorch基础课程，15天学完（小白版）

DAY 1

参考视频：

1 - pytorch简介

Pytorch是torch的python版本，是由Facebook开源的神经网络框架，专门针对 GPU 加速的深度神经网络（DNN）编程。Torch 是一个经典的对多维矩阵数据进行操作的张量（tensor ）库，在机器学习和其他数学密集型应用有广泛应用。与Tensorflow的静态计算图不同，pytorch的计算图是动态的，可以根据计算需要实时改变计算图。但由于Torch语言采用 Lua，导致在国内一直很小众，并逐渐被支持 Python 的 Tensorflow 抢走用户。作为经典机器学习库 Torch 的端口，PyTorch 为 Python 语言使用者提供了舒适的写代码选择。

2 - Tensor张量

1 - Tensor的基本概念

一个Tensor是一个包含单一数据类型的高维矩阵，简言之Tensor其实和Numpy里的array是一样的。单个元素叫标量（scalar），一个序列叫向量（vector），多个序列组成的平面叫矩阵（matrix），多个平面组成的立方体叫张量（tensor）。当然，就像矩阵有一维矩阵和二维矩阵乃至多维矩阵一样，张量也无需严格限制在三维以上才叫张量，在深度学习的范畴内，标量、向量和矩阵都统称为张量。

在深度学习领域中，为何要约定高维数组Tensor呢？

其实这是出于应用方向的实际需要，以深度学习当前最成熟的两大应用方向莫过于CV和NLP两大领域，前者面向图像和视频，后者面向语音和文本，二者分别以卷积神经网络和循环水神经网络为核心基础模块。而在这两个应用方向中，标准的输入数据集都至少是三维以上，例如

图像数据集至少包含三个维度：N×H×W，即样本数×图像高×图像宽；

如果是彩色图像，那么还要增加一个通道C，变为N×C×H×W；

如果是视频图像，那么可能还要再增加一个维度T；

文本数据集典型的输入包含三个维度：N×L×H，即样本数×序列长度×特征数

2 - Tensor代码实战

from __future__ import print_function

import torch

#创建一个未初始化矩阵

x = torch.empty(3,3)

print('x',x)

#创建随机初始化矩阵

y = torch.rand(3,3)

print('y',y)

#创建一个填满 0 且数据类型为 long 的矩阵

z = torch.zeros(3,3,dtype=torch.long)

print('z',z)

#直接从数据构造张量

a = torch.tensor([5,3.2])

print('a',a)

#根据现有的 tensor 建立新的 tensor

b = x.new_ones(3,3,dtype = torch.double)

print('b',b)

#张量的运算

#1：加法运算

print("z+y", z+y)

print("z+y2", torch.add(z,y))

print("z+y3", y.add_(z))

#2：形状变换

y = x.view(9)

z = x.view(-1, 9)

print(x.size(), y.size(), z.size())

3 - 线性回归问题分析

1 - 梯度下降算法

梯度是函数对它的各个自变量求偏导后，由偏导数组成的一个向量。梯度下降法的作用就是寻找一个极小值点，从而让函数的值尽可能地小。但是这么多个极值点，那么梯度下降法找到的是哪一个点呢？关于这个问题就要看运气了，算法的最开始会随机寻找一个位置然后开始搜索的最优解，如果运气好的话能够寻找到一个最小值的极值点，运气不好或许找到的就不是最小值的那个极小值点。

2 - 梯度下降代码演示

（看代码理解就行）

import matplotlib.pyplot as plt

import numpy as np

# 初始算法开始之前的坐标

# cur_x 和 cur_y

cur_x = 6

cur_y = (cur_x-1)**2 + 1

# 设置学习率 eta 为 0.05

eta = 0.05

# 变量 iter 用于存储迭代次数

# 这次我们迭代 1000 次

# 所以给它赋值 1000

iter = 1000

# 变量 cur_df 用于存储

# 当前位置的导数

# 一开始我给它赋值为 None

# 每一轮循环的时候为它更新值

cur_df = None

# all_x 用于存储

# 算法进行时所有点的横坐标

all_x = []

# all_y 用于存储

# 算法进行时所有点的纵坐标

all_y = []

# 把最一开始的坐标存储到

# all_x 和 all_y 中

all_x.append(cur_x)

all_y.append(cur_y)

# 循环结束也就意味着算法的结束

for i in range(iter):

# 每一次迭代之前先计算

# 当前位置的梯度 cur_df

# cur 是英文单词 current

cur_df = 2*cur_x - 2

# 更新 cur_x 到下一个位置

cur_x = cur_x - eta*cur_df

# 更新下一个 cur_x 对应的 cur_y

cur_y = (cur_x-1)**2 + 1

# 其实 cur_y 并没有起到实际的计算作用

# 在这里计算 cur_y 只是为了将每一次的

# 点的坐标存储到 all_x 和 all_y 中

# all_x 存储了二维平面上所有点的横坐标

# all_y 存储了二维平面上所欲点的纵坐标

# 使用 list 的 append 方法添加元素

all_x.append(cur_x)

all_y.append(cur_y)

# 这里的 x, y 值为了绘制二次函数

# 的那根曲线用的，和算法没有关系

# linspace 将会从区间 [-5, 7] 中

# 等距离分割出 100 个点并返回一个

# np.array 类型的对象给 x

x = np.linspace(-5, 7, 100)

# 计算出 x 中每一个横坐标对应的纵坐标

y = (x-1)**2 + 1

# plot 函数会把传入的 x, y

# 组成的每一个点依次连接成一个平滑的曲线

# 这样就是我们看到的二次函数的曲线了

plt.plot(x, y)

# axis 函数用来指定坐标系的横轴纵轴的范围

# 这样就表示了

# 横轴为 [-7, 9]

# 纵轴为 [0, 50]

plt.axis([-7, 9, 0, 50])

# scatter 函数是用来绘制散点图的

# scatter 和 plot 函数不同

# scatter 并不会将每个点依次连接

# 而是直接将它们以点的形式绘制出来

plt.scatter(np.array(all_x), np.array(all_y), color='red')

plt.show()

3 - 线性回归

这里推荐这篇博主的文章：

用人话讲明白线性回归LinearRegression - 知乎 (zhihu.com)

结束