引言

1.为什么使用机器学习
机器学习三要素：任务、可衡量、可成长
2.机器学习和数据挖掘
出发点不同。
3.机器学习与人工智能
人工智能的四种能力：自然语言处理、知识表示、自动推理、机器学习

机器学习一般流程

1.定义问题
2.收集数据
数据采集、数据预处理、数据转换
3.比较算法与模型
关键概念：模型、训练、预测、评估、超参数
4.应用模型

学习策略

1.有监督学习
特点：样本集带有标签数据
分类：用于离散类型。回归：用于连续类型。
算法：线性分析、梯度下降、朴素贝叶斯、决策树、支持向量机、神经网络、集成学习
2.无监督学习
特点：无标签数据
聚类算法：距离切分算法（k-means）、密度方法（DBSCAN）、模型方法（概率模型）、层次方法（BIRCH）
降维算法：线性降维（主成分分析、线性判别分析）、流行学习（Isomap、局部线性嵌入）
3.强化学习
5个要素：agent、environment、state、action、reward
状态预测问题：蒙特卡洛模拟
控制问题：基于策略的学习（Policy Gradients）、基于价值的学习（Q-learning、Sarse）
4.综合模型和工具
隐马尔科夫模型（用于识别）、贝叶斯网络（用于预测）、主题模型（用于文本）

评估理论

1.划分数据集
训练集和测试集、随机采样、分层采样、验证集
2.交叉验证
3.评估指标
整体准确率指标的缺陷：难以正确分析数据集分布不均匀情况
二值混淆矩阵
精确率、召回率、调和均值
连续值指标：平均绝对差、平均方差
4.拟合不足和过度拟合
拟合不足：模型无法匹配训练数据
过度拟合：模型匹配训练数据过度导致无法匹配数据