当前位置: 首页 > news >正文

【感知机】感知机(perceptron)学习策略

感知机( perceptron )是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1 和-1二值。感知机对应输入空间(特征空间)中将实例划分为正负两类的分离超平面,是一种判别模型。感知机是神经网络与支持向量机的基础

感知机学习旨在求出将训练数据进行线性划分的分离超平面。

感知机学习策略

假设训练数据集线性可分

学习目标:求得正确划分训练集中所有正负实例点的分离超平面

学习策略:1、确定一个损失函数。2、选取使损失函数最小的参数。


损失函数的选择:误分类点到分离超平面的距离

任一点x_0到超平面的距离公式\frac{1}{\left \| w \right \|}\left | w\cdot x_0+b \right |,其中\left \| w \right \|wL_2范数,

向量的L_2范数:向量各元素平方和的平方根

定理:对于误分类数据(x_i,y_i),有y_i(w\cdot x_i+b)<0

从而由距离公式和上述定理,得

误分类点x_i到超平面的距离公式-y_i\frac{1}{\left \| w \right \|} (w\cdot x_i+b ) 

实现了去掉绝对值的工作

所有误分类点到超平面的总距离- \frac{1}{\left \| w \right \|} \underset{x_i\in M}{\sum } y_i (w\cdot x_i+b ) ,M为误分类点集合

不必考虑\frac{1}{\left \| w \right \|},最终得到损失函数


损失函数L(w,b)=- \underset{x_i\in M}{\sum } y_i (w\cdot x_i+b ) 

一 个特定的样本点的损失函数:在误分类时是参数w,b的线性函数;在正确分类时是0。

因此,

注: 给定训练数据集T时,损失函数是w,b的连续可导函数

http://www.xdnf.cn/news/1253791.html

相关文章:

  • Git 乱码文件处理全流程指南:从识别到彻底清除
  • WebView 中控制光标
  • VINS-Fusion+UWB辅助算法高精度实现
  • Pytest项目_day05(requests加入headers)
  • 移动端跨平台框架(支持Harmony、iOS、Android)
  • cacti
  • vue3 find 数组查找方法
  • TrustZone技术详解————这篇是AI写的包括图
  • [Oracle] SIGN()函数
  • 大数据存储域——Hive数据仓库工具
  • 第14届蓝桥杯Scratch_选拔赛_初级及中级(STEMA)真题2022年12月18日
  • 碰撞问题的分析
  • 链式数据结构
  • 基于最大似然估计的卡尔曼滤波与自适应模糊PID控制的单片机实现
  • 北京-4年功能测试2年空窗-报培训班学测开-第六十九天-投简历第一天-从兴奋到害怕
  • 【图像处理基石】浅谈3D城市生成中的数据融合技术
  • 从零开始用 Eclipse 写第一个 Java 程序:HelloWorld 全流程 + 避坑指南
  • 如何设计一个开放授权平台?
  • 用 “私房钱” 类比闭包:为啥它能访问外部变量?
  • 【AI智能编程】Trae-IDE工具学习
  • vector使用模拟实现
  • 排序算法(二)
  • Qt-桌面宠物
  • win10/11网络防火墙阻止网络连接?【图文详解】防火墙阻止连接网络的解决方法
  • Unity 调节 Rigidbody2D 响应速度的解决方案【资料】
  • GPT-OSS-20B vs Qwen3-14B 全面对比测试
  • AI领域的三箭齐发之夜 - genie3,gpt-oss, Opus 4.1
  • K8S的POD数量限制
  • harbor仓库搭建(配置https)
  • 数据结构(4)