常见概念:
-
人工智能 (AI, Artificial Intelligence): 人工智能是计算机科学的一个领域,目标是让计算机能够模仿或模拟人类智能行为,如学习、推理、解决问题和决策。AI 可以涵盖从简单的规则系统到复杂的深度学习模型。
-
机器学习 (ML, Machine Learning): 机器学习是人工智能的一个子领域,专注于通过数据来训练模型,从而使计算机能够自动从经验中改进其性能。简单来说,机器学习就是让计算机通过分析数据来“学习”如何完成任务,而不是通过明确编程指令。
-
神经网络 (Neural Networks): 神经网络是机器学习中的一种方法,它受到生物神经系统(如大脑)的启发。神经网络由大量的“神经元”组成,这些神经元通过“权重”连接在一起,可以学习数据中的复杂模式。神经网络适合处理复杂的任务,如图像识别和自然语言处理。
-
深度学习 (Deep Learning): 深度学习是神经网络的一种扩展,特别关注具有多个隐藏层的神经网络。这些深度神经网络(或深度学习模型)可以学习更复杂的特征和模式,并在大规模数据上表现出色。深度学习在许多领域取得了显著进展,如自动驾驶、语音识别和图像处理。
-
大模型 (Large Models): 大模型通常指的是那些具有大量参数和层次的深度学习模型。这些模型可以处理大量数据,捕捉到更复杂的模式,通常用于自然语言处理(如GPT-4)、图像生成(如DALL-E)等任务。它们需要强大的计算资源进行训练,但在处理复杂任务时表现优异。
-
PyTorch 基础:
- 框架知识: PyTorch 是一个开源的深度学习框架,主要用于构建和训练神经网络。学习 PyTorch 基础主要包括了解其核心组件,如张量(Tensors)、计算图(Computational Graphs)、自动微分(Autograd)等。
- 操作与功能: 你需要掌握如何使用 PyTorch 的 API 来实现数据加载、模型构建、损失计算、优化等基本操作。这包括理解如何使用
torch.nn
模块来定义模型架构,如何使用torch.optim
来优化模型参数,如何使用torch.utils.data
来处理数据等。 - 调试与实践: 学习如何在 PyTorch 中进行调试,处理运行时错误,并实际构建和训练简单的模型。
-
深度学习基础:
- 理论知识: 深度学习基础涵盖了神经网络的核心概念,如前向传播(Forward Propagation)、反向传播(Backpropagation)、激活函数(Activation Functions)、优化算法(Optimization Algorithms)等。这些理论知识帮助你理解神经网络如何通过学习从数据中提取特征和进行预测。
- 模型与算法: 学习不同类型的神经网络(如卷积神经网络(CNNs)、递归神经网络(RNNs)、生成对抗网络(GANs)等)及其应用场景。理解如何选择合适的模型架构和算法来解决特定问题。
- 实践与应用: 应用这些理论知识来构建和训练各种深度学习模型,评估模型性能并进行调整。
数学基础:
1.北航机器学习中的数学基础
2.吴恩达《机器学习数学基础(线性代数/微积分)
4_线性代数应用 I.zh_en_哔哩哔哩_bilibili
3.白板推理
4.比较全的但声音不好听