目标实现一个学习系统
理解简单的神经网络(nn)/dl
00:11:46.636
image.png
人类智能

  1. 通过信息进行推理
  2. 看到照片与抽象概念结合:预测
    00:19:29.936
    image.png

mechine learning 就是代替人脑

目前常用的都是监督学习

算法思维:

  • 穷举
  • 贪心
  • 分治
  • 动态规划

深度学习:有数据集 找出算法
机器学习 计算过程也就是函数来源于数据,而不是人工(基于统计)
00:24:01.499
image.png

dl属于表示学习rl

00:28:28.199
image.png

求原函数
首先构造知识库
00:29:14.598
image.png

00:29:41.156
image.png

实现类似人类智能的就算ai

00:32:34.716

image.png
对于复杂问题,基于规则的代码,人类难以维护

经典机器学习:手工提取特征。最重要要把
00:34:05.608
image.png

重点是使用机器学习找到中间的 f(x)
00:34:40.521
image.png

表示学习还要通过学习获得特征

维度诅咒
00:36:43.485
image.png

特征2维就需要 102
如果是3维就 103
00:39:08.956
image.png

10维空间映射到3维
00:39:36.912
image.png

需要实现高维降到低维

降维的目的:维度过高,需要的数据量过大,数据集需要人工进行标注

00:42:24.861
image.png

深度学习使用比较简单的原始特征
设置额外的层,进行提取特征,然后接入学习器进行输出00:43:25.966
image.png

这个层常用多层神经网络

feature 单独进行训练,常用无监督学习
后一个有监督

端到端00:44:39.588
image.png

基于规则的系统
00:46:07.352
image.png

表示学习丛数据进行训练,来得到算法的过程

00:46:35.794
image.png

传统的机器学习策略
大于50样本
有无标签
预测量级
00:48:23.818
image.png

svm受到的挑战
好多人想不到的数据
大数据集处理困难
对于图像,文本 提取困难

00:51:42.355
image.png

人类犯错是5%

神经网络简单介绍
来源于神经学和数学
00:52:53.548
image.png
生物进化:趋光性->能动(智能系统)
00:56:59.322
image.png

给猫看幻灯片,检查他的脑子神经元电极反应
看的时候没信号变化
只有在幻灯片切换时有

在看条纹信息是有变化的

得出结论神经元是分层
浅层用于检测线条移动,颜色块
高层检测:是猫是狗

00:59:19.608
image.png

上面就是感知机
01:00:16.840
image.png

01:00:53.285
image.png

能够实现神经网络很重要的概念
反向传播 :核心是计算图01:04:05.605
image.png

上面过程这个是前馈

01:05:11.607
image.png

逐层求导,最终目的是求出 abe 的导数

链式法则,01:06:18.283
image.png

所有路径偏导求和

各种各样的模型
01:08:10.827
image.png

01:08:26.267
image.png

01:10:15.884
image.png

算法、数据集、算力

01:11:26.328
image.png
01:12:04.765
使用现成的框架
image.png

高效使用gpu
01:12:53.385
image.png

01:13:22.429
image.png

01:16:48.704
image.png

01:17:19.878
image.png

先装cuda
后装pytorch