深度神经网络模型压缩
系统讲解深度神经网络中的模型压缩典型算法
代码级讲解多种压缩工具的原理细节和使用方式
覆盖视觉和大语言模型的全方位压缩知识和实际部署经验
讲师：雍洋
讲师：谷石桥
对课程有疑问？ 点击视频立即观看课程介绍！
您已经是《深度神经网络模型压缩》-学员，是否购买最新一期？
- 本课程包括：
- 3个月群内答疑，讲师助教及时解答
- 课程有效期为1年，建议合理规划学习
- 课程配有作业练习，助教一对一批改
- 班主任带班，严格督学，告别拖延
- 根据学习情况颁发结业证书、优秀学员证书
雍洋
商汤科技模型工具链团队研究员，毕业于西安交通大学，现主要研究方向为深度学习的模型压缩技术，负责团队中的大模型量化工具、在线量化工具、稀疏工具的迭代开发和相应的压缩业务落地。
谷石桥
商汤科技模型工具链团队研究员，毕业于天津大学，现主要研究方向为深度学习的模型压缩技术，负责团队中的大模型量化工具、离线量化工具和相应的压缩业务落地。
在当今的人工智能领域，深度学习模型已成为推动技术进步的核心动力。然而，随着模型变得越来越复杂，它们对计算资源的需求也日益增加，同时，边缘端对模型推理耗时的需求也较为苛刻。在这样的背景下，模型压缩技术应运而生，已成为一种不可或缺的技术。
模型压缩是通过量化或者稀疏等压缩技术，把深度神经网络模型以更高效的方式进行部署，实际提高模型的推理速度，降低模型的部署成本，带来明显的收益。从计算机视觉模型到大语言模型，模型压缩都是实际部署落地必备环节。
学习模型压缩技术，有助于打通整个AI模型的生产环节，加深对实际项目落地流程的理解。遗憾的是，绝大多数AI领域的工作者忽视了模型压缩的价值，同时，模型压缩技术路线较多，对初学者来说有较高的门槛，进一步导致目前市面上相关人才稀缺。深蓝学院联合商汤科技模型工具链团队一起推出该课程。通过该课程的学习，同学们可以逐步理解并掌握模型压缩的相关技术知识，并独立进行相关工作的开发和研究。
课程目标
- 掌握模型压缩领域的典型算法的原理和技术细节
- 掌握对模型压缩工具的熟练使用和内在原理
- 通过实战部署操作对模型压缩技术有全方位的理解和经验掌握
课程亮点
-
系统讲解深度神经网络中的模型压缩典型算法
-
代码级讲解多种压缩工具的原理细节和使用方式
-
覆盖视觉和大语言模型的全方位压缩知识和实际部署经验
课程大纲
-
第1章：模型压缩概述
本章节介绍了模型压缩的相关背景和基础概念。深度神经网络在实际部署落地的过程中，由于延迟功耗等要求，往往要对模型进行压缩。模型压缩可以让模型的推理速度会更快，在自动驾驶等场景，可以提升安全性，在手机等移动端场景， 可以增强用户体验。
-
第2章：离线量化算法和工具
本章节介绍了离线量化(PTQ)的基础概念，工业界常见的量化难点，常见的PTQ算法包括BRECQ、Qdrop等，最后介绍了离线量化工具Dipoorlet。离线量化因其简易性和低开销，是最常见的模型量化或模型压缩手段，使用合适离线量化算法和工具可以帮助用户快速部署一个压缩后的，同时精度得到保障的深度学习模型。
-
第3章：离线量化工具实现原理和细节
本章节介绍了支持多后端的离线量化工具Dipoorlet的实现，包括其核心的算法Adaround、BRECQ和QDrop，以及各种校准算法的实现。同时Dipoorlet支持多种推理后端的部署，包括TRT，TI，Snpe等。其使用起来非常简单，仅仅需要一句命令行，课程最后会向大家介绍如何用Dipoorlet在TRT推理后端量化部署一个CV模型。
-
第4章：在线量化算法和工具
本章节介绍了在线量化算法和MQBench在线量化工具。在线量化在模型的训练过程中，模拟量化的行为，从而能够在训练时感知到量化的误差。通过约束模型的损失函数，在线量化在训练结束之后，即可生产出更适合量化的模型。
课程适合谁学习
- AI相关企业的模型压缩和部署工程师
- 高校和企业从事模型压缩研究的同学
- 对模型压缩和部署技术感兴趣的算法工程师
基础&设备要求
-
编程能力： Python
-
基础知识： 深度学习常见模型，尤其是CNN以及transformer
-
硬件要求： 12GB以上的显存，16GB以上的内存，Ubuntu系统，A100显卡（本地或者云端）
全方位的学习服务
个性化增值服务，学习有保障更高效
-
作业批改
作业批改 助教1V1批改作业，定期针对作业中的“通病”进行点评
-
结业证书
结业证书 本课程将根据作业完成情况评选结业学员及优秀学员，颁发证书
-
实时答疑
实时答疑 讲师和助教微信群答疑，及时解决大家遇到的问题
-
班班督学
班班督学 班主任全程带班，不定时“关照”未交作业的同学，克服拖延
- 第1章: 第一章 1节课程·5次作业
-
第1节: 第一节
- 1：测试直播01
- 2-1：这么口红成
- 2-2：这是一个作业
- 3：直播课程
- 4：第一条数据
- 5：第二个数据
- 6：第三条数据
- 7：第四条数据
- 8：第五条数据
- 9：第六条数据
- 10：第七条数据
- 11：第八条数据
- 12：第九条数据
- 13：第十条数据
- 第2章: 第二章 1节课程·1次作业
-
第1节: 小节
- 14：撒打算哒
- 15：峰水电费水电费
- 16：这是一个讨论任务
- 第3章: 第三章节任务 1节课程·3次作业
-
第1节: 第一小节
- 17-1：讨论任务3
- 17-2：这是个祖业
- 18-1：章节作业440
- 18-2：这是一个作业任务
- 第4章: 第四章任务 2次作业
- 19-1：第四章直播任务
- 19-2：第四章作业名称
- 20：这是一个练习题
- 21：第四章作业通知
- 22：深蓝学院主动模板需求功能开发提测.xlsx
课程讨论区
已累计讨论26495个问题
课程配备专属讨论区，不仅有讲师、助教全程答疑，更能与同学们交流讨论，在思维碰撞中加深理解
在课程中随想随问，同学们的问题也可能启发到你
在课程讨论区，和684位同学一起探讨更多问题···
作业批改
已累计批改4951份作业
助教一对一批改作业，定期针对作业中的问题进行评讲
结业证书
课程根据作业完成情况评选结业学员及优秀学员，颁发证书
优秀学员更能获得额外购课优惠
班班督学
班班、助教、讲师全程带班，日常答疑解惑
FAQ
1、课程可以试听吗？
可以，您可以联系客服领取试听内容，根据试听的效果决定是否报名。
2、报名课程后，如果不满意，可以退款吗？
我们承诺: 报名后7天内且学习进度停留在第一章节的内容可以无条件全额退款，若您的学习进度超过第一章或报名时间超过7天将不再支持退款哦。课好不好，学了就知道了!
3、报名课程的费用可以开发票吗？
深蓝学院所有课程都可以开具发票。您可以登录深蓝学院官网（https://www.shenlanxueyuan.com），进入个人“账户中心”，在线申请。
4、报名后怎么开始学习呢？
PC端：登录深蓝学院官网（https://www.shenlanxueyuan.com），进入“个人中心”或“我的课程” 的课程即可开始学习。课程中包含讲师讲解的视频、课件、代码、作业及其它学习资料。建议在PC端学习体验更好。
如果想缓存视频，可下载深蓝学院APP。
5、可以跟讲师直接交流吗？
报名课程后添加课程对应的班主任微信，由其邀请加入微信答疑群。在答疑群内，您可以直接跟讲师和其他同学讨论交流。
报名后在对应的课程详情页，可查看对应的班主任微信。
6、学习形式和学习周期是怎样的？
为保证学习质量方便同学们反复观看，本课程采用录播形式。建议同学们登录深蓝学院PC端官网体验更佳。
7、课程有有效期吗？
为了督促同学们学习，保证学习效率，学院的课程有效期均为一年，当课程有效期截止后将不再支持观看视频、下载课件等课程服务及操作。若同学们依旧想观看视频和下载课件，建议可选择续费本课程。需要提醒大家的是，课程答疑、作业批改&讲评等课程相关服务期从报名加入课程后开始计算至少保证三个月。
8、作业会提供参考答案吗？
不提供参考答案。当每章作业截止提交后，会解锁作业思路讲解。我们希望引导大家培养独立思考的习惯和敢于动手实践的勇气，以便尽快适应实际工作中解决问题的模式。做作业过程中，如果有任何困惑和问题，可以在课程讨论区和交流群内提问解决。
其他问题请咨询客服
添加时请备注『模型压缩』
课程预览
深度神经网络模型压缩
