保罗·伯奈斯2022年讲座
教授(Sanjeev Arora
(Sanjeev Arora是Charles C. Fitzmorris计算机科学教授在普林斯顿大学。他曾获得帕卡德奖学金(1997)，西蒙斯研究者奖(2012)，Gödel奖(2001年和2010年)，ACM计算奖(2012年)和富尔克森奖(2012年)。他是美国国家科学院院士、美国ACM院士和美国科学促进会院士。
寻求对人工智能的数学理解
第一讲:今天的人工智能和机器学习之旅
- 日期:2022年8月31日，星期三
- 时间:5.00点。
- 礼堂:HG E 7
文摘:机器能获得让我们想起(甚至超越)人类通用智能推理的能力吗?自从计算机在20世纪上半叶发明以来，这个问题一直激励着计算机的研究。在过去的十年里，我们看到了在这个方向上的巨大进步，这要感谢非常大的深度神经网络模型，以及新一代的网络架构、算法和训练数据集。机器已经在一系列任务中取得了超人类的表现。讲座对这些新发展以及由此提出的问题(科学、社会、伦理)进行了广泛而非技术的概述。
第2讲:深度学习:数学理解的尝试
- 日期:2022年9月1日，星期四
- 时间:5.00点。
- 礼堂:HG E 7
文摘:正如第一讲中所描述的，深度学习是过去十年中许多戏剧性进展的基础。它涉及在非常大的数据集上训练一个巨大的神经网络(又名深度网络)——拥有数十亿甚至数万亿可训练的参数。这一领域的许多研究都是经验性的，并受到良好直觉的指导。但是，也有一套新兴的数学思想来理解训练过程和训练网络的性质。本讲座将简要介绍最优化、泛化、师生设置、无限宽网(NTK制度)和无监督学习的框架。本讲座假定您对基本线性代数、微积分和概率论有一定的了解。它将让非专家和学生对该领域、它试图理解的现象和迄今为止的一些见解有一些数学见解。
第3讲:我们在数学上对深度学习有什么不理解?
- 日期:2022年9月30日，星期五
- 时间:5.15点。
- 礼堂:HG E 7
文摘:深度学习颠覆了许多关于机器学习和人工智能的传统思维方式。本讲座旨在传达它给我们之前对机器学习的数学理解带来的挑战，同时在第二讲的词汇和概念的基础上进行构建。重点是试图揭示深度学习的各种奥秘。与此特别相关的是，如今非常庞大的深度网络具有惊人的能力，能够迅速适应新任务，这需要对网络参数中捕获的“技能”和“概念”进行量化，从数学角度来看，这仍然是模糊的。我们调查了越来越多的尝试，试图从数学上观察网络在训练过程中如何演变。虽然讲座的重点是过去3-4年的成果，但仍应面向具有本科水平数学训练的广泛科学观众。