目录

一、AI、ML、DL概述

1.1 基本概念

1.2 三者关系

1.3 算法的学习方式

1.4 人工智能发展三要素

1.5 应用领域

二、机器学习常用术语

三、机器学习算法分类

3.1 有监督学习

3.1.1 分类问题

3.1.2 回归问题

3.2 无监督学习

3.2 半监督学习

3.4 强化学习

四、建模流程

4.1 获取数据

4.2 数据基本处理

4.3 特征工程

4.4 模型训练

4.5 模型评估

五、模型拟合问题

六、机器学习开发环境

---

一、AI、ML、DL概述

1.1 基本概念

人工智能（AI Artificial Intelligence）：用计算机模拟人脑，让计算机像人类一样理性的思考和行动。

机器学习（ML Machine Learning）：赋予计算机学习能力 而 不需要明确编程的研究领域，让机器从数据中自动学习规律，而不是依靠人类写死规则。可以解决靠人写规则太复杂、靠数据能找到规律的问题。

深度学习(DL Deap Learning)：使用多层神经网络（模拟人脑神经元结构）进行机器学习。

1.2 三者关系

三者关系：机器学习是人工智能的一个分支，是实现人工智能的途径。深度学习是实现机器学习的一种技术。

1.3 算法的学习方式

基于规则的学习：程序员根据经验手动if-else进行规则书写（传统编程方式）

但是很多东西无法书写规则，无法用规则学习的方式来解决问题

基于模型的学习：从数据中自动学习规律（机器学习）

1.4 人工智能发展三要素

人工智能发展的三大核心要素是：数据、算力、算法

1.5 应用领域

常见领域有：计算机视觉CV、自然语言处理NLP、语音技术、 推荐系统 、医疗与生物信息学等。

计算机视觉CV：对人看到的东西进行理解，让机器看懂图像/视频，如：人脸识别、图像识别、医学影像诊断、自动驾驶等。

自然语言处理NLP：对人交流的东西进行理解，让机器理解/生成文本，如：翻译、聊天机器人、文本摘要、情感分析等。

推荐系统：如：电商商品推荐、短视频 / 音乐推荐、信息流个性化推荐。

二、机器学习常用术语

样本（sample）：数据集中的一条数据。比如一个学生的所有数据

特征(feature)：用于描述样本的属性或变量。一个特征通常是一列数据，有一个对应的名字：特征名

标签/目标值：模型要预测的目标值（答案）

数据集：多个样本组成数据集，是训练集和测试集的总和，二者比例一般是8：2或者7：3

训练集：用于训练模型的数据。

测试集：模型完全没见过的数据，用于最终评估

待更新，每遇到新名词就添加

三、机器学习算法分类

3.1 有监督学习

有监督学习：利用带有标签的训练数据，学习输入到输出的映射关系，目的是让模型对新的未知数据做出预测。

特点：有特征、有标签

常见算法：线性回归、逻辑回归、决策树、朴素贝叶斯、K近邻算法 等

3.1.1 分类问题

标签值是不连续/离散的，比如薪资：低、中、高

目的：判断属于哪一类

分类种类：二分类、多分类（3个及以上的分类）

3.1.2 回归问题

标签值是连续的，如房价

目的：预测一个具体数值

3.2 无监督学习

无监督学习：在没有标签、没有标准答案的数据中，根据样本的相似性进行聚类，发现内部的结构、规律。

特点：有特征、无标签

常见算法：K均值聚类、主成分分析、t-分布邻域嵌入等

3.2 半监督学习

半监督学习：让专家标注少量数据，用少量带标签的数据训练一个模型，用模型套用大量没标签的数据，通过询问 领域专家分类结果 与 模型分类结果 做对比。

优点：降低专家标注成本

3.4 强化学习

强化学习：智能体通过与环境交互，以试错的方式学习策略，靠奖励学最优决策。是机器学习的一个重要分支。

常见算法：Q学习、深度强化学习等

四、建模流程

4.1 获取数据

搜索与完成机器学习相关的数据集，获得经验数据、图像数据、文本数据等

4.2 数据基本处理

数据缺失值处理、异常值处理等

4.3 特征工程

利用专业背景知识和技巧处理数据，对数据特征进行提取、转成向量，让模型达到最好的效果。

2.2 和2.3一般是建模过程中耗时、耗经历最多的

子任务：

1、特征提取：从原始数据中提取与任务相关的特征，构成特征向量，会改变原数据

2、特征预处理：因量纲/单位问题，不同特征对模型的影响也不同

3、特征降维：将数据的维度降低

4、特征选择：选择与任务相关的特征集合子集，不会改变原数据。

5、特征组合：把多个特征合并成一个特征

4.4 模型训练

选择合适的算法对模型进行训练，如线性回归、逻辑回归等

4.5 模型评估

若评估效果好 就上线服务，评估效果不好就重复上述步骤。

五、模型拟合问题

拟合：用来表示模型对样本点的拟合情况

过拟合：模型在训练集表现好、测试集表现差

过拟合原因：模型过于复杂、数据少或训练过度，解决方法是加数据、降复杂度等

欠拟合：模型在训练集表现差、测试集表现差

欠拟合原因：模型过于简单、特征不足，解决方法是加特征、提高模型复杂度。

泛化：是模型在新数据集（非训练数据）上表现的好坏

奥卡姆剃刀原则：对于两个具有相同泛化误差模型，较简单的模型 优先于 较复杂的模型

六、机器学习开发环境

基于Python的scikit-learn库，简单高效的数据挖掘和数据分析工具

下载方法：以管理员身份打开命令行，输入

pip install scikit-learn

等待下好即可，如图：

官网：https://scikit-learn.org/stable/

算法选择路径图：