人工智能之数学基础:逻辑回归算法的概率密度函数与分布函数

本文重点

逻辑回归（Logistic Regression）虽然名称中包含“回归”，但本质上是一种用于二分类问题的统计模型。其核心在于通过逻辑分布（Logistic Distribution）的概率密度函数与分布函数，将线性模型的输出映射到概率空间，从而实现对样本类别的预测。

逻辑回归的概率密度函数和分布函数

先来回忆一下逻辑回归算法，逻辑回归的假设函数为：

其实这个是逻辑回归的分布函数，图像是：

我们可以看到Z越大，g(Z)的值越接近1，Z越小，g(Z)的值越接近0

那么它的概率密度函数其实是g(z)'=f(z)=g(z)(1-g(z))，概率密度图像是：

该函数描述了随机变量在某一取值附近的概率密度，其形状与正态分布类似，但尾部更长，能够更好地拟合具有极端值的数据。

我们发现从概率密度的角度来说，z越大f(