《深度学习》教学大纲

一、课程基本信息

课程名称/英文名称: 深度学习/Deep Learning 课程代码: CS280
课程层次: 本研一体课程 学 分/学 时: 4/64
主要面向专业: , 授课语言: 中英文
先修课程: 建议先修课程说明: At least one of Introduction to Machine Learning,or Machine Learning or Artificial Intelligence I
开课单位: 信息科学与技术学院 课程负责人: 许岚

二、课程简介

近年来,深度学习作为机器学习的一个计算模型子类,在从海量数据中表示和学习复杂但结构化的信息方面取得了巨大的经验上的成功。这些数据包括但不限于语音、自然语言和图像。这些成功使DNNs成为语音识别、NLP和计算机视觉等应用领域里广泛应用的、强大而流行的工具。本课程旨在对深度神经网络进行基础而全面的介绍,包括基本模型族(CNNs和RNNs等)、其训练方法、实现问题以及在上述领域的示范性应用。此外,本课程还将重点介绍DNN的一些理论和领域最新进展方面的内容。

三、课程教学目标

知识认知能力:通过课程的学习,要求学生学会如何使用和实现各种神经网络,以及如何针对各种数据和任务进行网络参数的训练和优化。更重要的是,使学生对DNN有更好的概念和理论认识,包括其能力和局限性。

综合素质能力:能理解人工智能职业道德和规范,具备科学精神和工程师的基本素养,具备科技报国的家国情怀和使命担当;能进行团队协作,具备合作精神和人际沟通能力。

四、课程教学方法

课堂讲授与讨论:深度神经网络的知识点基本以课堂讲授为主,在讲解基本知识点的基础上,关注课程重点难点内容的讲授,采用启发式教学方法,引导学生对问题展开思考和讨论,使学生从数学概念、模型设计概念及编程实现概念出发分析和解决人工智能领域的相关问题。

演示与案例教学:通过神经网络工程实际案例的讲解,使学生在掌握课程基本理论和方法的同时,理解课程知识在工程中的实际应用,激发学生的研究兴趣,启迪学生创新思维。

实践探究教学:通过课程项目的设计、实现和讲解,使学生在科研实践中掌握神经网络的实现细节,锻炼在各学科领域中应用人工智能来解决实际问题的能力,以及有效表述自己设计与想法的技能。

五、课程教学内容与安排

以章节名称方式安排教学内容

章节名称

主要教学内容

(主要知识点)

教学周

学时安排

教学方法

(仅列名称)

第一章:引论

深度学习介绍

机器学习基础回顾

第一周

2

课堂讲授与讨论

第二章:基础神经网络

单层神经网络

多层神经网络

前向与反向传播

第一、二周

4

课堂讲授与讨论

第三章:卷积神经网络

卷积网络基本模块

网络训练

网络正则化

网络结构设计

第二、三、四周

8

课堂讲授与讨论

第四章:卷积神经网络应用

卷积网络在模式识别、信号处理等领域中的应用

第四、五周

4

课堂讲授与讨论

案例教学

第五章:理解卷积神经网络

网络可视化

网络可解释性

应用实例:图像风格迁移与对抗性样本

第五、六周

4

课堂讲授与讨论

案例教学

第六章:循环神经网络

序列建模

基础循环神经网络

通过时间的反向传播

LSTM,GRU模型

注意力模型

循环神经网络应用

第六、七周

6

课堂讲授与讨论

案例教学

第七章:其他神经网络结构

Transformers模型

图神经网络

第八周

4

课堂讲授与讨论

课程项目

课程项目提案

第九周

2

实践探究教学

第八章:生成式神经网络

生成式模型基础

变分自编码器

GAN模型

第九、十、十一周

8

课堂讲授与讨论

第九章:神经网络最新进展

前沿课题(可选):

神经微分方程

小样本学习

自监督学习等

第十一周、十二周

6

课堂讲授与讨论

案例教学

课程项目

课程项目分组讨论

中期报告

第十三周、十四周

8

实践探究教学

课程项目

课程项目分组讨论

项目报告与展示

第十五、十六周

8

实践探究教学

六、考核方式和成绩评定方法

作业部分:4个问题集:10%×4=40% 包括编写问题集+编程任务
课程项目部分: 40% (+5%)
其中提案:4%;最后报告(会议格式):28%;演示讲解:8%;成果新颖的加分:5%
随堂测试:10次小测验:2%×10=20%。

七、教材和参考书目

(一)、推荐教材

书名 作者 译者 出版社 出版年月 ISBN 版次
深度学习 [美] 伊恩·古德费洛 / [加] 约书亚·本吉奥 / [加] 亚伦·库维尔 赵申剑 / 黎彧君 / 符天凡 / 李凯 人民邮电出版社 2017-08 9787115461476 第一版

(二)、参考书目

书名 作者 译者 出版社 出版年月 ISBN 版次
动手学深度学习 阿斯顿·张(Aston Zhang) / 李沐(Mu Li) / [美] 扎卡里·C. 立顿(Zachary C. Lipton) / [德] 亚历山大·J. 斯莫拉(Alexander J. Smola) 人民邮电出版社 2019-06 9787115490841 第一版

八、学术诚信教育

本课程高度重视学术诚信,严禁抄袭、作弊等行为。
“在学习、科研、实习实践等活动中,学生应恪守学术道德,坚守学术诚信,保护知识产权,坚持勇于创新、求真务实的科学精神,努力培养自己严谨求实、诚实自律、真诚协作的科学态度,成为良好学术风气的维护者、严谨治学的力行者、优良学术道德的传承者。”
(具体请参见《上海科技大学学生学术诚信规范与管理办法(试行)》文件要求)
具体措施:所有作业都必须单独完成,不得从任何其他来源查看解决方案。不得与其他学生分享解决方案。所有编程作业都将使用抄袭检测软件。可以一起讨论,也可以帮助其他同学,但不能给出确切的解决方案。当一个学生抄袭另一个学生的作品时,两个学生都要负责。相关作业或考试零分。屡次违规将导致该课程被评为F级,并将受到学院和学校的进一步处罚。

九、其他说明(可选)

本课程将使用Piazza或者互动教学平台。答疑时间与方式等其他具体信息将于每学期开学第一节课告知学生。

《Deep Learning》Syllabus

1.Basic course information

course name Deep Learning course code CS280
Course Level Undergraduate/Graduate Credit/Contact Hour: 4/64
Major: , Teaching Language Chinese and English
Prerequisite NULL Prerequisite suggestion
School/Institute School of Information Science and Technology Instructor xulan

2.Course Introduction

3.Learning Goal

4.Instructional Pedagogy

5. Course Content and Schedule


6.Grading Policy

7. Textbook & Recommended Reading

(1) Textbook

book name author translator press publication time ISBN edition
深度学习 [美] 伊恩·古德费洛 / [加] 约书亚·本吉奥 / [加] 亚伦·库维尔 赵申剑 / 黎彧君 / 符天凡 / 李凯 人民邮电出版社 2017-08 9787115461476 第一版

(2) Recommended Reading

book name author translator press publication time ISBN edition
动手学深度学习 阿斯顿·张(Aston Zhang) / 李沐(Mu Li) / [美] 扎卡里·C. 立顿(Zachary C. Lipton) / [德] 亚历山大·J. 斯莫拉(Alexander J. Smola) 人民邮电出版社 2019-06 9787115490841 第一版

8.Academic Integrity

9.Other Information (Optional)