机器学习（西瓜书）学习——绪论
术语按照概念类别可分为五个表格：
1. 术语
1.1 基本概念与数据表示
| 中文术语 | 英文术语 | 符号表示 | 解释 |
|---|---|---|---|
| 机器学习 | Machine Learning | – | 通过计算手段利用经验改善系统自身性能的学科 |
| 模型 | Model | – | 由算法通过学习（训练）数据而创建出来的数学函数或程序 |
| 数据集 | Dataset | DDD | 一组记录的集合，每条记录描述一个事件或对象 |
| 样本/示例 | Sample/Instance | xxx | 数据集中的单条记录，描述事件或对象的特征 |
| 属性/特征 | Attribute/Feature | – | 描述样本的某个特性（如"色泽"、“重量”） |
| 属性值 | Attribute value | xix_ixi | 属性取到的具体值（如“青绿”、“浊响”）。 |
| 属性空间/样本空间 | Attribute Space/Sample Space | X\mathcal{X}X | 由所有属性张成的多维空间 |
| 特征向量 | Feature Vector | x=(x1;x2;…;xd)\boldsymbol{x} = (x_1;x_2;\dots;x_d)x=(x1;x2;…;xd) | 样本在属性空间中的坐标表示形式 |
| 维数 | Dimensionality | ddd | 样本属性的个数（特征向量的维度） |
| 标记 | Label | yyy | 样本的"结果"信息（如"好瓜"或"坏瓜"） |
| 样例 | Example | (x,y)(\boldsymbol{x}, y)(x,y) | 拥有标记信息的样本（即(特征向量, 标记)对） |
| 标记空间/输出空间 | Label Space/Output Space | Y\mathcal{Y}Y | 所有可能标记的集合（如{好瓜, 坏瓜}） |
1.2 学习过程与模型构建
| 中文术语 | 英文术语 | 符号表示 | 解释 |
|---|---|---|---|
| 学习/训练 | Learning/Training | – | 从数据中获取模型的过程 |
| 训练数据 | Training Data | – | 用于训练模型的数据集 |
| 训练样本 | Training Sample | – | 训练数据中的单个样本 |
| 训练集 | Training Set | DtrainD_{train}Dtrain | 包含多个训练样本的集合 |
| 假设 | Hypothesis | – | 学习算法对数据内在规律的潜在描述 |
| 假设 空间 | Hypothesis Space | H\mathcal{H}H | 学习算法所有可能考虑的假设（函数）的集合 |
| 真相/真实 | Ground Truth | – | 数据中隐含的客观规律（理想模型） |
| 学习器 | Learner | – | 学习算法的具体实现程序 |
| 独立同分布 | Independent and Identically Distributed， i.i.d. | i.i.d. | 样本独立且服从相同分布的基本前提 |
1.3 任务类型与学习范式
| 中文术语 | 英文术语 | 符号表示 | 解释 |
|---|---|---|---|
| 分类 | Classification | – | 预测离散标记的任务（如判断好瓜/坏瓜） |
| 回归 | Regression | – | 预测连续数值标记的任务（如预测西瓜成熟度） |
| 二分类 | Binary Classification | – | 仅两个类别的分类任务 |
| 多分类 | Multi-Class Classification | – | 类别多于两个的分类任务 |
| 正类 / 反类 | Positive / Negative Class | – | 二分类中的两个类别，通常称关注的类别为正类 |
| 聚类 | Clustering | – | 在无标记条件下将样本按相似性划分为若干个簇 |
| 监督学习 | Supervised Learning | – | 训练数据包含标记信息的学习范式 |
| 无监督学习 | Unsupervised Learning | – | 训练数据无标记信息的学习范式 |
1.4 模型评估与验证
| 中文术语 | 英文术语 | 符号表示 | 解释 |
|---|---|---|---|
| 测试 | Testing | – | 使用学得模型预测新样本的过程 |
| 测试样本 | Test Sample | – | 用于评估模型性能的未参与训练的新样本 |
| 泛化 | Generalization | – | 模型适用于新样本的能力（核心目标） |
| 泛化误差 | Generalization Error | – | 模型在新样本上的预测误差 |
1.5 学习原理与偏好
| 中文术语 | 英文术语 | 符号表示 | 解释 |
|---|---|---|---|
| 归纳 | Induction | – | 从具体样本中总结出一般规律的过程 |
| 演绎 | Deduction | – | 从一般规律推导出具体样本结论的过程 |
| 归纳偏好 | Inductive Bias | – | 学习算法对特定类型假设的偏好 |
| 奥卡姆剃刀 | Occam’s Razor | – | 重要归纳偏好原则：优先选择"更简单"的模型 |
| 过拟合 | Overfitting | – | 模型过度拟合训练数据导致泛化能力下降 |
| 欠拟合 | Underfitting | – | 模型未能充分学习数据规律 |