音乐人工智能系系列讲座
——基础模型
主讲嘉宾:Bjoern Schuller教授
主持人:李小兵教授
主办:音乐人工智能与音乐信息科技系
入场方式
Zoom会议:978 438 6825
密码:8888
时间:2023年11月15日18:00-19:00
人工智能正迎来“大模型”时代,其参数量已超过万亿级别,训练数据量也达到了数万亿。这些模型通常被称为“基础模型”,其主要特点是涌现效应和同质化。涌现效应主要指模型能以零样本学习方式实现新能力;同质化指由于这些模型优于传统方法,且训练这些模型需要大量工作,导致人工智能领域将注意力集中在这些模型上。在本次讲座中,我们将研究此类模型的不同方面,包括自监督训练架构、Transformer骨干网络架构、微调方法、特征以及伦理等方面。语言是这类模型在近期发展中首次使用的数据模态,且与音乐信息学应用联系紧密。本次讲座将主要围绕语言这一模态开展讲解。
时间:2023年11月21日18:00-19:00
第二次“基础模型”讲座将讲解语言模态以外的内容,特别是在音频处理领域日益占主导地位的大规模音频模型。其他基础模型还包括视觉模型、图模型、多模态模型,以及适用于其他模态和多模态、多功能的大模型。应用场景将涉及音乐分析和音乐生成中的几个典型问题。还将讨论此类模型的前沿主题,包括知识蒸馏、低秩蒸馏和提示微调等快速微调方法。此外,还将讨论此类模型面临的风险,例如对抗式模型攻击、训练数据毒化等问题。最后,将讲解识别人工生成数据的方法及研究现状。模型将越来越多地面对人工智能生成的大量数据,而不是人类生成的数据,因此该问题对此类模型的训练至关重要。
——基础模型
主讲嘉宾:Bjoern Schuller教授
主持人:李小兵教授
主办:音乐人工智能与音乐信息科技系
入场方式
Zoom会议:978 438 6825
密码:8888
时间:2023年11月15日18:00-19:00
人工智能正迎来“大模型”时代,其参数量已超过万亿级别,训练数据量也达到了数万亿。这些模型通常被称为“基础模型”,其主要特点是涌现效应和同质化。涌现效应主要指模型能以零样本学习方式实现新能力;同质化指由于这些模型优于传统方法,且训练这些模型需要大量工作,导致人工智能领域将注意力集中在这些模型上。在本次讲座中,我们将研究此类模型的不同方面,包括自监督训练架构、Transformer骨干网络架构、微调方法、特征以及伦理等方面。语言是这类模型在近期发展中首次使用的数据模态,且与音乐信息学应用联系紧密。本次讲座将主要围绕语言这一模态开展讲解。
时间:2023年11月21日18:00-19:00
第二次“基础模型”讲座将讲解语言模态以外的内容,特别是在音频处理领域日益占主导地位的大规模音频模型。其他基础模型还包括视觉模型、图模型、多模态模型,以及适用于其他模态和多模态、多功能的大模型。应用场景将涉及音乐分析和音乐生成中的几个典型问题。还将讨论此类模型的前沿主题,包括知识蒸馏、低秩蒸馏和提示微调等快速微调方法。此外,还将讨论此类模型面临的风险,例如对抗式模型攻击、训练数据毒化等问题。最后,将讲解识别人工生成数据的方法及研究现状。模型将越来越多地面对人工智能生成的大量数据,而不是人类生成的数据,因此该问题对此类模型的训练至关重要。