I/o逻辑是什么回归是一种解决分类問题的算法（尤其是二分类问题）

2-如何解决分类问题？

将样本的特征和样本的发生的概率联系起来

$\stackrel{}{}\begin{array}{ccc}& & \stackrel{}{}\\ 0& & \stackrel{}{}\end{array}$$$θ 使得对于任意一个预测样本 ${}_{}$Xb? ，其预测值可通过 $\stackrel{}{}{}^{}{}_{}$$$(?∞,+∞) 我們如何才能将这一结果约束到 $0$

Sigmoid函数的表达形式为：

这样我们就可以通过Sigmoid函数讲预测值 $\stackrel{}{}$[0,1] 这个范围内了。

我们如何确定一个损失函数从而寻找到一组最佳的 $$θ 来拟合我们的训练数据呢？显然我们要寻找的损失函数必须满足一下条件：

设:一个给定样本其发生的概率为 $\stackrel{}{}$

$\begin{array}{c}\stackrel{}{}\\ 0\stackrel{}{}\end{array}$

$\begin{array}{ccc}\stackrel{}{}& & \\ \stackrel{}{}& & 0\end{array}$

$\frac{}{}\underset{}{\overset{}{}}{}^{}\frac{{{}_{}^{}}^{}}{}{}^{}\frac{{{}_{}^{}}^{}}{}$$$J(θ) 的最小值了，而这个最小值并不能通过数学推到得出而需要我們运用前面所学习的梯度下降算法来求出。

5-目标函数的梯度求解（数学推导）

在求解梯度之前我们先整理一下我们的目标函数：

$\frac{}{}\underset{}{\overset{}{}}{}^{}{}^{}$σ(t) 使得式孓看起来更简洁一点便于我们稍候的处理。

${}^{{}^{}}\frac{}{}{{}^{}}^{}\frac{}{}\frac{{}^{}}{{}^{}{}^{}}\frac{{}^{}{}^{}}{}\frac{{}^{}}{{}^{}{}^{}}\frac{{}^{}}{{}^{}}$$\frac{{}^{}}{{}^{}}$

${}^{{}^{}}\frac{{}^{}}{{}^{}}{}^{}{}^{}{}^{}\frac{{}^{}}{}$n 维列向量，其表达形式可以表示为：

${}_{}{}_{}{}_{}{}_{}{}_{}{}_{}{}^{}$θj? 方向上的倒数:

$\frac{}{{}_{}}\frac{}{}\underset{}{\overset{}{}}{}^{}{{}_{}}^{}{{}_{}}^{}{}^{}{{}_{}}^{}{{}_{}}^{}$θj? 方向上求导是如此对于其他方向上的求导亦是如此。

$\begin{array}{c}\frac{}{0_{}}\\ \frac{}{{}_{}}\\ \\ \frac{}{{}_{}}\end{array}\frac{}{}\begin{array}{c}{}_{}^{}{{}_{}}^{}{}^{}\\ {}_{}^{}{{}_{}}^{}{}^{}{{}_{}}^{}\\ \\ {}_{}^{}{{}_{}}^{}{}^{}{{}_{}}^{}\end{array}$

$\frac{}{}\begin{array}{c}{}_{}^{}{{}_{}}^{}{}^{}\\ {}_{}^{}{{}_{}}^{}{}^{}{{}_{}}^{}\\ {}_{}^{}{{}_{}}^{}{}^{}{{}_{}}^{}\\ \\ {}_{}^{}{{}_{}}^{}{}^{}{{}_{}}^{}\end{array}\frac{}{}{{}_{}}^{}{}_{}$