自编码器AE全方位探析：构建、训练、推理与多平台部署
本文深入探讨了自编码器（AE）的核心概念、类型、应用场景及实战演示。通过理论分析和实践结合，我们详细解释了自动编码器的工作原理和数学基础，并通过具体代码示例展示了从模型构建、训练到多平台推理部署的全过程。 关注TechLead，分享AI与云服务技术的全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目
人工智能 2024年01月22日 76
TAGS:训练
怎么用Pytorch实现ResNet网络构建及模型训练
这篇“怎么用Pytorch实现ResNet网络构建及模型训练”文章的知识点大部分人都不太理解，所以小编给大家总结了以下内容，内容详细，步骤清晰，具有一定的借鉴价值，希望大家阅读完这篇文章能有所收获，下面我们一起来看看这篇“怎么用Pytorch实现ResNet网络构建及模型训练”文章吧。 构建网络 ResNet由一系列堆叠的残差块组成，其主要作用是通过无限制地增加网络深度，从而使其更加强大。在建立R
人工智能 2024年01月06日 78
umich cv-5-2 神经网络训练2
这节课中介绍了训练神经网络的第二部分，包括学习率曲线，超参数优化，模型集成，迁移学习 训练神经网络2 学习率曲线 超参数优化 模型集成 迁移学习 学习率曲线 在训练神经网络时，一个常见的思路就是刚开始迭代的时候学习率较大，然后随着迭代次数的增加，学习率逐渐下降，下面我们就来介绍几种学习率下降的方法： 第一种方法是我们在某些特定的迭代节点，将学习率乘以某个值比如0.1，这种方法显然又引
人工智能 2023年12月18日 55
DeepSpeed： 大模型训练框架
背景： 目前，大模型的发展已经非常火热，关于大模型的训练、微调也是各个公司重点关注方向。但是大模型训练的痛点是模型参数过大，动辄上百亿，如果单靠单个GPU来完成训练基本不可能。所以需要多卡或者分布式训练来完成这项工作。 一、分布式训练 1.1 目前主流的大模型分布式训练主要包括两种： 数据并行训练 模型并行训练 二、DeepSpeed DeepSpeed是由Microsoft提供的分布式训练工
人工智能 2023年12月07日 53
umich cv-5-1 神经网络训练1
这节课中介绍了训练神经网络的第一部分，包括激活函数的选择，权重初始化，数据预处理以及正则化方法 训练神经网络1 激活函数 数据预处理 权重初始化 正则化方法 激活函数 这部分主要讨论我们之前提到的几种激活函数的利弊： 首先我们看sigmoid函数，这种激活函数有着激活函数中常见的优点与缺点： 优点方面，它可以使数据分布在0-1之间，可以很好地表示神经元的饱和放电现象 缺点方面 我们
人工智能 2023年12月01日 57
怎么用Pytorch进行多卡训练
今天小编给大家分享一下怎么用Pytorch进行多卡训练的相关知识点，内容详细，逻辑清晰，相信大部分人都还太了解这方面的知识，所以分享这篇文章给大家参考一下，希望大家阅读完这篇文章后有所收获，下面我们一起来了解一下吧。 Python PyTorch深度学习框架 PyTorch是一个基于Python的深度学习框架，它支持使用CPU和GPU进行高效的神经网络训练。 在大规模任务中，需要使用多个GPU来加
人工智能 2023年09月13日 55
Pytorch如何保存训练好的模型
本篇内容介绍了“Pytorch如何保存训练好的模型”的有关知识，在实际案例的操作过程中，不少人都会遇到这样的困境，接下来就让小编带领大家学习一下如何处理这些情况吧！希望大家仔细阅读，能够学有所成！ 为什么要保存和加载模型 用数据对模型进行训练后得到了比较理想的模型，但在实际应用的时候不可能每次都先进行训练然后再使用，所以就得先将之前训练好的模型保存下来，然后在需要用到的时候加载一下直接使用。 模型
人工智能 2023年07月12日 65
