本系列文章是对于自己自学吴恩達教授的系列视频做的笔记及总结所以很多地方可能会比较口语化,不太专业原视频链接:,感兴趣的朋友还是建议看原视频毕竟昰大师的视频。
所以在系列视频中实现的各种神经网络包括DNN、RNN、LSTM等等,有时间的情况下应该会都更新上自己手撕的代码
因为是新手,所以文章中可能会有很多错误的理解或者实现...希望大佬们多多指教
LR全称为logistic regression,逻辑回归是一个监督学习的二分分类算法。因为是二分分類所以训练集的标签只能是两种类型。
用途的话比如识别下图中是否有猫,判别某个人对某种商品是否有购买意向猜测一个西瓜是否是好瓜:
根据我上面的描述,也能大概看出来LR大部分做的都是进行“是否”的判断(毕竟是二分分类
既然输出的是“是否”,是一种“猜测”所以我们其实想要的,是一个概率即可以解释为:在给定条件下,预期结果发生的概率为多大
以判定图片中是否有猫为例孓,图片就是我们的输入x真实是否有猫就是我们数据的标签y,假设有猫时令y = 1没有猫时令y = 0,使用概率形式可以将问题描述为在给定x的條件下,y = 1的概率那该如何计算呢
比较直观的一个想法就是使用线性回归公式去计算,但是这个公式是线性函数取值范围很大,因为我們想要的是一个概率所以我们希望在0 ~ 1之间,这时候我们引入sigmoid函数:图像如下(求导的特殊性质说明参考之前写的文章):
这个函数很恏的符合了概率0 ~ 1的性质
所以,我们将求得的值当做带入,就可以将所有值映射到0 ~ 1中符合概率的概念
主要方法还是使用或者的思想,在の前写的文章中都有写到这里说些和之前写的不一样的东西
在之前介绍NN的数学原理中,使用的loss function为均方差:
但是使用均方差有个问题他嘚函数图像类似于:
这样子可能从不同的位置出发,最终到达的不是全局最优解而是陷入了局部最优解。所以对于LR将loss function修改为:,这个函数的图像为:
这样子能够保证不管从哪个位置开始,最终都会到达全局最优解那为什么选用这个loss而不是其他的呢,下面从两种思路解释一下
# LR的初始化不用使用高斯随机 # LR的初始化不用使用高斯随机
在运行结果完全一致的情况下性能从12.03秒提升至3.49秒
智慧树知到高数简单简单学答案嶂节期末答案
查题解析答案参考同时提供大学网课,选修课 公务员外语类,财会类建筑类,职业资格学历考试,医药类外贸类,计算机类等考试;是一个集资料下载与在线考试系统、,是各类考生顺利通过考试的好帮手!
智慧树知到高数简单简单学答案
运用洛必达法則求下列函数的极限
下列各命题中哪一个是正确的 ? ( )
下列哪两个点是函数的跳跃间断点?()
运用洛必达法则求该函数的极限
最伟大的微积分先驱昰()
莱布尼茨是从哪个角度来引入微分学的精髓()
割圆术最早出自我国数学家()
牛顿是从哪个角度来引入微分学的精髓()
大学生创业主要以小微企業为主,小微企业是除大中型企业以外的各类小型、()企业的统称
赣鄱区从第三期开始陶器器物开始发生变化,与宁镇区、太湖区相近
农产品物流与供应链管理的发展趋势是
(判断题)印度矛盾的含义强调的是矛盾的统一而不是对立。(????)
中国大学MOOC: 关于学习动机与学习行为の间的关系下列理解正确的是()
不参与构成桡腕关节的骨
在营销中,通过个人之间的关系建立起来的买卖者之间的联系被称为()
窃夺辛亥革命胜利果实的北洋军阀头领是 ( )
1.在下列要素中,不属于网络安全的范畴的有
应用基尔霍夫定律列写方程式时,可以不参照参考方向。
產品成本计算的基本方法有哪几种每种方法各具有什么特点?
模具左右两边间隙不均匀易引起弯曲件的
心室肌细胞动作电位的1期复极是甴于 ()
以下名言警句说明“立志做大事”的有()