报告题目：Towards Trusted AI for Healthcare: from Theory to Practic

报告摘要

随着人工智能（AI）在医疗健康应用广度和深度的不断拓展，人们开始关注 AI 存在的风险和挑战。当前，在医疗应用中推广 AI 仍有很多不可忽视的现实障碍，例如训练样本不足，数据共享和标注困难，模型缺乏透明度、鲁棒性和公平性等等。为了克服这些障碍，加速人工智能研究在智慧医疗的落地应用，除了致力于开发更精准的模型，我们还需要提升 AI 的可信度。可信 AI 已成为 AI 研究和产业的重要趋势。AI 可信度大致可以包括：隐私性、可解释性、鲁棒性和公平性。本报告主要探讨如何打造新一代的智慧医疗可信 AI 生态，聚焦于实现这一目标在理论和实践两方面的进展。首先，针对医疗数据安全和数据共享问题，我将介绍我们在联邦学习的理论、算法框架和安全 AI 系统，及其在多中心医学影像分析中取得的最新成果。其次，针对 AI 模型可解释性问题，我将介绍如何提高可解释性人工具的有效性和可靠性，及其在图像分割、疾病诊断的应用。最后，我将简要介绍本课题组在鲁棒性和公平性方向的初步探索，探讨可信 AI 在医学影像分析面临的机遇和挑战。

嘉宾简介

李霄霄，博士，现任加拿大英属哥伦比亚大学（UBC, The University of British Columbia）电子和计算机工程系的助理教授。加入 UBC 之前，李博士是普林斯顿大学计算机科学系的博士后研究员。她于2020年在耶鲁大学获得博士学位。博士期间，她被授予高级研究生领导奖学金。她于2015年在浙江大学获得荣誉学士学位。李博士曾在日本索尼、西门子北美研究院和摩根大通AI研究院实习。其课题组保持着与工业届紧密合作，获得了来自英伟达、微软和亚马逊的计算资源资助。李博士的研究兴趣为人工智能与医学图像分析的跨学科领域，旨在提高人工智能系统在医疗应用中的可信度。近三年来，李博士在顶级机器学习和医学影像会议和期刊上发表文章三十余篇，如 NeurIPS、ICML、ICLR、MICCAI、IPMI、BMVC 和 Medical Image Analysis。她的工作获得了 OHBM 最佳论文奖，MLMI 最佳论文奖，以及DART最佳论文奖， NeurIPS/ICML/MICCAI/IPMI Travel Awards。李博士多次在机器学习会议中组织研讨会，担任期刊 Frontiers in Neuroimaging 副主编，及多个国际会议和期刊的审稿人。

特别感谢本次Webinar主要组织者：

顾实（电子科技大学）