神经网络与深度学习-绪论
一文读懂神经网络与深度学习：从AI起源到深度学习框架
适合人群：刚接触人工智能的新手，想了解神经网络和深度学习全貌的读者
内容来源：《神经网络与深度学习》
一、人工智能（AI）是什么？
1.1 起源：一场改变世界的"夏季研讨会"
1956年，几位科学界大佬——麦卡锡、明斯基、香农等——在达特茅斯学院开了一场"人工智能夏季研讨会"。他们讨论的核心问题是：机器能不能模仿人类学习？ 这次会议被公认为人工智能学科的诞生标志。
一句话理解：AI就是让机器像人一样"聪明"。
1.2 发展：三起三落的"过山车"
AI的发展并非一帆风顺，经历了多次高潮和低谷：
| 阶段 | 时间 | 标志性事件 |
|---|---|---|
| 学科起步 | 1956~1960年代初 | 达特茅斯会议，AI诞生 |
| 第一次低谷 | 1960年代 | 早期技术瓶颈 |
| 专家系统 | 1970年代 | 基于规则的知识系统 |
| 第二次低谷 | 1970~1980年代 | 专家系统局限性暴露 |
| 神经网络 | 1980年代 | 联结主义兴起 |
| 第三次低谷 | 1980~2000年代 | 算力不足、数据匮乏 |
| 深度学习 | 2000年代至今 | 大数据+GPU+新算法 |
1.3 三大流派：符号主义、联结主义、行为主义
- 符号主义：用符号和逻辑推理模拟思维，比如下棋、规划路线。
- 联结主义：模仿人脑神经元连接，用神经网络实现智能——这就是本文的重点！
- 行为主义：模拟生物的"感知-行动"过程，比如强化学习让机器人学会走路。
1.4 AI伦理：不能忽视的社会责任
AI发展必须关注 安全、信任、公平、隐私 等问题。各国已出台相关规范，如中国《新一代人工智能治理原则》、欧盟《可信人工智能道德原则指导》等。
二、机器学习（ML）：让机器"自己学"
2.1 经典定义
如果一个程序通过利用经验E，在任务T上获得了性能P的改善，那么它就对E进行了学习。
——Tom Mitchell
通俗地说：机器学习的本质就是让计算机从数据中自动找规律，而不是人工写死规则。
2.2 四大类型
| 类型 | 核心思想 | 例子 |
|---|---|---|
| 监督学习 | 有"标准答案"地学 | 给图片打标签（猫/狗） |
| 无监督学习 | 自己找规律 | 用户分群、异常检测 |
| 半监督学习 | 少量标签+大量无标签数据 | 降低标注成本 |
| 强化学习 | 试错+奖励/惩罚 | AlphaGo、自动驾驶 |
三、人工神经网络（ANN）：模仿人脑的计算模型
3.1 人脑神经网络：自然界最伟大的"计算机"
人脑有约 860亿个神经元，每个神经元通过上千个突触与其他神经元连接，形成极其复杂的网络。这就是人类认知的生理基础。
赫伯规则（Hebb Rule，1949）：
如果两个神经元经常一起被激活，它们之间的连接就会变强；反之则变弱。
这就是神经网络"学习"的生物学灵感来源！
3.2 从M-P模型到感知机
🔹 M-P模型（1943）
神经科学家麦克洛奇和数学家皮兹提出了第一个数学化的神经元模型，用简单的逻辑运算模拟神经信号传递。
🔹 感知机（Perceptron，1957）
罗森布拉特发明了感知机，它能实现简单的逻辑运算（如与、或）。来看一段用Python实现逻辑与运算的感知机代码：
import numpy as np
class Perceptron(object):
def __init__(self, input_size):
self.W = np.array([1, 1]) # 权重
self.b = -2 # 偏置
def activation_fn(self, x):
return 1 if x >= 0 else 0 # 激活函数：大于0输出1，否则0
def predict(self, x):
z = self.W.T.dot(x)
a = self.activation_fn(z + self.b)
return a
# 测试：逻辑与运算
X = np.array([[0,0], [0,1], [1,0], [1,1]])
perceptron = Perceptron(input_size=2)
for x in X:
pre = perceptron.predict(x)
print(f"{x[0]} and {x[1]} = {pre}")
输出结果：
0 and 0 = 0
0 and 1 = 0
1 and 0 = 0
1 and 1 = 1
新手提示：感知机就是神经网络的最小单元，理解它你就迈出了第一步！
3.3 发展历程中的关键里程碑
| 时间 | 事件 | 意义 |
|---|---|---|
| 1969 | 明斯基出版《感知机》 | 指出单层感知机无法解决异或问题 |
| 1980 | 福岛邦彦提出神经认知机 | 引入"感受野"概念，CNN的前身 |
| 1989 | LeNet（杨乐昆） | 第一个成功的卷积神经网络，用于邮政系统 |
| 1997 | LSTM网络 | 解决RNN的长程依赖问题 |
3.4 神经网络的"寒冬"：为什么一度停滞？
神经网络曾长期陷入低谷，主要有三个瓶颈：
- 梯度消失：反向传播时误差信号逐层衰减，深层网络训练困难
- 算力不足：当时的计算机跑不动大规模神经网络
- 数据匮乏：模型参数多，但标注数据太少
这些问题，后来被深度学习逐一攻克！
四、深度学习（DL）：神经网络的"复兴"
4.1 关键突破：2006年后的三大事件
| 时间 | 突破 | 贡献者 |
|---|---|---|
| 2006 | 深度信念网络（DBN） | 辛顿 & 萨拉赫丁诺夫 |
| 2009 | 堆叠自动编码器（SAE） | 本吉奥 |
| 2012 | AlexNet夺冠ImageNet | 辛顿小组 |
2012年是深度学习元年！ AlexNet在ImageNet图像分类大赛中以碾压优势夺冠，核心秘诀：
- ReLU激活函数：解决了梯度消失问题
- GPU加速：让大规模训练成为可能
- 大数据：ImageNet提供了海量标注数据
4.2 后续发展：GAN、Transformer引领新潮流
- GAN（生成对抗网络，2014）：古德费洛提出，让AI学会"画画"、“造图”
- Transformer（2017）：Google提出，彻底改变了自然语言处理
- 衍生出 GPT、BERT 等爆款模型
- 2020年后，ViT（视觉Transformer） 也在图像领域大放异彩
2018年图灵奖授予了深度学习三巨头：本吉奥、杨乐昆、辛顿，标志着深度学习成为计算机科学的核心理论。
4.3 主流开发框架
| 框架 | 出品方 | 特点 |
|---|---|---|
| TensorFlow | 工业界常用，生态完善 | |
| PyTorch | Meta (Facebook) | 学术界首选，灵活易用 |
| 飞桨PaddlePaddle | 百度 | 国产框架，中文文档友好 |
| OpenVINO / OneAPI | Intel | 侧重推理优化和部署 |
新手建议：入门推荐 PyTorch，代码直观、社区活跃、教程丰富。
4.4 深度学习的应用领域
- 🖼️ 计算机视觉：图像分类、目标检测、人脸识别
- 🗣️ 语音与自然语言处理：语音识别、机器翻译、ChatGPT
- 🛒 推荐系统：抖音、淘宝的"猜你喜欢"
- 🚗 自动驾驶：感知环境、决策规划
- 🎨 内容生成：AI绘画、AI写作、AI作曲
五、总结：一张图看懂全文
人工智能（AI）
│
├── 符号主义（逻辑推理）
├── 联结主义（神经网络）←── 本文主线
│ │
│ ├── 机器学习（ML）
│ │ ├── 监督学习
│ │ ├── 无监督学习
│ │ ├── 半监督学习
│ │ └── 强化学习
│ │
│ └── 人工神经网络（ANN）
│ ├── M-P模型（1943）
│ ├── 感知机（1957）
│ ├── CNN（1989）
│ ├── RNN/LSTM（1997）
│ │
│ └── 深度学习（DL）←── 当前主流
│ ├── DBN/SAE（2006~2009）
│ ├── AlexNet（2012）
│ ├── GAN（2014）
│ └── Transformer（2017）
│
└── 行为主义（感知-行动）
六、给新手的建议
- 先理解概念，再敲代码：搞清楚"为什么"比"怎么做"更重要
- 从感知机入手：最简单的神经网络，代码就十几行
- 学好数学基础：线性代数、概率论、微积分是三大支柱
- 动手实践：用PyTorch跑几个经典模型（LeNet、ResNet）
- 关注前沿：Transformer、大模型（LLM）是当前最热方向
推荐学习路线：
感知机 → 多层感知机（MLP）→ 卷积神经网络（CNN）→ 循环神经网络（RNN）→ Transformer → 大语言模型（LLM）
本文内容整理自《神经网络与深度学习》第1章绪论，旨在帮助初学者快速建立知识框架。如有错误，欢迎指正！
AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念，把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起，为开发者提供从开发、训练到部署的一站式体验。
更多推荐
6
0- 0
已为社区贡献6条内容
所有评论(0)