ETH-FDS系列研讨会

在这个网站上，你可以找到关于即将到来的和过去的研讨会的信息。

×

模态的标题

模式内容

请订阅这如果你愿意，我们会通过电子邮件通知你。而且你可以订阅到iCal/ics日历。

2023年春季学期

日期/时间

演讲者

标题

位置

2023年3月2日
15:00-16:00

Felix Krahmer
你慕尼黑

事件详细信息

ETH-FDS研讨会

标题	具有对抗噪声的鲁棒低秩矩阵补全
演讲者,归属	Felix Krahmer，你慕尼黑
日期、时间	2023年3月2日15:00-16:00
位置	HG E 1.1
摘要	在过去的15年里，从有限随机测量集中恢复高维低秩矩阵的问题得到了广泛的应用，并获得了详细的理论基础。一个特别有趣的例子是矩阵补全问题，其中测量是入口观测。用核范数最小化方法得到了该问题的第一个严格恢复保证，核范数最小化方法是np难约束秩最小化问题的凸代理。对于元素足够“展开”的矩阵，这个凸问题承认一个唯一解，它对应于基本真理。在随机测量噪声存在的情况下，重构性能也得到了很好的研究，但对对抗噪声的性能仍然知之甚少。虽然已经为凸和非凸方法导出了一些误差界限，但这些界限与信息论的下界和高斯测量的可证明性能存在差距。然而，最近对该问题的分析表明，在小尺度对抗噪声下，重构误差会显著放大。在这次演讲中，我们定量地研究了这种放大，并为小噪声级和大噪声级提供了新的重建边界，表明重建误差和噪声级之间存在二次依赖关系。这是与Julia Kostin (TUM/ETH)和Dominik Stöger (KU Eichstätt-Ingolstadt)的联合工作。

具有对抗噪声的鲁棒低秩矩阵补全read_more

2023年4月18日
14:15-15:05

考特尼Paquette
加拿大麦吉尔大学

事件详细信息

ETH-FDS研讨会

标题	DACO-FDS:大型随机算法:批量饱和，步长临界，泛化性能和精确动力学(第一部分)
演讲者,归属	考特尼Paquette，加拿大麦吉尔大学
日期、时间	2023年4月18日14:15-15:05
位置	HG 19.1 G
摘要	随机矩阵经常出现在许多不同的领域-物理，计算机科学，应用和纯数学。通常情况下，感兴趣的随机矩阵将具有非平凡的结构-相关的条目，具有潜在的不同的均值和方差(例如稀疏Wigner矩阵，对应于随机图的邻接矩阵，样本协方差矩阵)。然而，目前对这种复杂随机矩阵的理解仍然缺乏。在这次演讲中，我将讨论关于具有a.s.有界算子范数的独立随机矩阵和谱的最新结果。特别地，我将证明在一些相当普遍的条件下，这样的和将表现出以下的普遍性现象-它们的频谱将接近具有相同均值和协方差的高斯随机矩阵。不需要事先有随机矩阵理论的背景-基本的概率论和线性代数知识就足够了。(与拉蒙·范亨德尔合作)预印链接:https://web.math.princeton.edu/~rvan/tuniv220113.pdf

DACO-FDS:大型随机算法:批量饱和，步长临界，泛化性能和精确动力学(第一部分)read_more

2023年4月18日
15:10-16:00

艾略特Paquette
加拿大麦吉尔大学

事件详细信息

ETH-FDS研讨会

标题	DACO-FDS:大型随机算法:批量饱和，步长临界，泛化性能和精确动力学(第二部分)
演讲者,归属	艾略特Paquette，加拿大麦吉尔大学
日期、时间	2023年4月18日15:10-16:00
位置	HG 19.1 G
摘要	在这次演讲中，我们将提出一个框架，用于分析随机优化算法的动态(例如，随机梯度下降(SGD)和动量(SGD+M))，当样本数量和维度都很大时。为了分析，我们将引入一个随机微分方程，称为齐次SGD。我们证明了均匀化SGD是SGD的高维等价物——对于任何二次统计量(例如，具有二次损失的总体风险)，当样本数量n和特征数量d多项式相关时，SGD迭代下的统计量收敛到均匀化SGD下的统计量。通过分析齐次化SGD，给出了SGD训练动态和泛化性能的精确非渐近高维表达式，并给出了Volterra积分方程的解。该分析是针对满足一组可解析条件的数据矩阵和目标向量制定的，这些条件可以大致看作是数据的样本侧奇异向量的弱离域形式。通过分析这些限制动态，我们可以深入了解学习率、动量参数和批量大小选择。例如，我们确定了一个稳定性测量，隐式条件调节比(ICR)，它调节SGD+M加速算法的能力。当批大小超过该ICR时，SGD+M以$O(1/ \kappa)$的速率线性收敛，匹配最优的全批动量(特别是表现与全批一样好，但大小的一小部分)。相比之下，对于小于ICR的批处理大小，SGD+M的速率就像单批SGD速率的倍数。我们给出了明确的学习率和动量参数的选择，以实现这种性能的黑森谱。 Finally we show this model matches performances on real data sets.

DACO-FDS:大型随机算法:批量饱和，步长临界，泛化性能和精确动力学(第二部分)read_more

2023年5月11日
16:15-17:15

Stephan Mandt
加州大学

事件详细信息

ETH-FDS研讨会

标题	标题T.B.A.
演讲者,归属	Stephan Mandt，加州大学
日期、时间	2023年5月11日16:15-17:15
位置	HG D 1.2
摘要	稍后通知

标题T.B.A.read_more

2023年6月1日
16:15-17:15

Yurii Nesterov
UCLouvain

事件详细信息

ETH-FDS研讨会

标题	标题T.B.A.
演讲者,归属	Yurii Nesterov，UCLouvain
日期、时间	2023年6月1日16:15-17:15
位置	HG D 1.2
摘要	稍后通知

标题T.B.A.read_more

注意:强调事件标记下一个发生的事件。

存档:FS 23 HS 22 FS 22 HS 21 FS 21 HS 20 FS 20 HS 19 FS 19