day1-机器学习和数学分析

小象学院 邹博的课件和视频还是不错的

机器学习相关知识

定义

应用

• 1.希望机器更加只能，能够使用机器帮助人类的实现某些特定功能
  • 下围棋：深蓝等
  • 无人驾驶汽车

实现

• 模仿人类如何学习
  • 有特征值（语言、颜色、形状）
  • 有监督
  • 无监督
  • 增强学习

内涵与外延

• 给定数据的预测
  • 数据清洗、特征选择
  • 确定算法模型、参数优化
  • 结果预测
• 不能解决
  • 大数据存储、并行计算
  • 制作一个机器人
• SVM:支撑分类器 更多是像一个算法或软件

房价预测（经典的事例）

• 例如：根据x（特征值）预测房价y（目标函数）
  • 房屋类型x1：公寓、别墅等
  • 交通方式x2：True or False
  • 房屋面积x3
  • 房屋几居室x4
  • 最重要的不是建模（有现成的）的过程！而是清洗数据和构建特征值的过程是最最重要的！
• 语言选择：Python（首选）、R、Matlab

EM模型

• 男孩 女孩身高模型都符合高斯模型GM
• p男孩模型和i-p女孩模型即为GMM混合高斯模型
• 可以使用EM算法实现

推荐书籍

• Pattern Recognition and Machine Learning（最经典）
• Machine Learning: A probailistic Perspective
• 中文：李航 统计学习方法 清华大学 2012

回忆知识

• s=1/1!+1/2!+1/3!+1/4!+....+1/n!

• 结果是e

• 微积分 还元法：设t 公式法：泰勒
• 泰勒展开式和几种解题方法
• 方向梯度
• 凹凸性（在机器学习领域）：x平方是凸函数；-x平方是凹函数；高数领域可以求二阶导
• 参考资料：
  • 高等数学
  • 概率论与数理统计
  • Prof.Andrew Ng Machine Learning,Stanford University