信息工程学院

讲座时间：2024年6月28日下午15:50-16:30

讲座地点：宿州学院教育园区校区逸夫楼第二会议室

讲座对象：宿州学院师生

主讲人简介：

叶翰嘉，南京大学副教授、CCF优博，在南京大学机器学习与数据挖掘研究所（LAMDA）从事学术研究工作，研究方向包括表示学习、预训练模型复用等领域。叶翰嘉在人工智能领域发表《IEEE Trans. PAMI》等学术论文50余篇，受邀担任国际重要会议ICML/NeurIPS/CVPR领域主席；作为核心成员参与新一代人工智能国家科技重大专项，主持国家自然科学基金面上项目，获中国计算机学会优秀博士学位论文奖。

讲座摘要：

机器学习技术在各领域的广泛使用产生了大量的预训练模型。为目标任务选择合适的预训练模型能够充分利用预训练模型资源，并为目标任务模型的构建提供了新思路，可在增强目标模型泛化能力的同时，降低其计算或存储开销。本报告提出一种预训练模型选择框架，基于目标任务的文本描述或少量标注样本刻画任务特性，从多个预训练模型中高效选择最适合当前任务的模型。具体而言，基于预训练模型在已知任务中的表现，学习预训练模型和任务的元表示，通过表示匹配，使目标任务快速定位出具有较好零样本分类能力或微调后具有较好泛化性能的预训练模型，实现模型选择效率和准确率之间的平衡。该框架有效用于图像分类模型、大语言模型、以及多模态视觉-语言模型的选择。