软硬结合与自我迭代，英伟达如何助力AI医疗进化？

　　近年来，AI技术正在以前所未有的速度刷新着健康产业的认知边界。尤其在2022年，国内有关AI医疗器械的监管政策实现了重大突破，也使得AI影像医疗器械的审批创先新高整个2022年，NMPA共发出了二十多张AI三类证，是历年来AI三类证获批最多的一年，在目前已获批的AI三类证中占据了接近半数。
　　包括监管政策在内，各种政策的不断完善无疑为AI医疗的前进提供了保证。与此同时，作为数字医疗的代表，技术的发展对于AI医疗的推动也必不可少。这些领域的有赖于整个行业生态的共同努力。
　　概括而言，决定AI产品差异的核心要素主要包括数据、算法和算力。作为全球AI算力的主要提供者，半导体巨头英伟达（NVIDIA）在2022年连续在医疗领域发力，发布了多个针对AI医疗的解决方案。这些方案，也将会在未来逐渐被引入到AI与医疗结合的各个场景中。
　　从云端到边缘端，硬件升级提升AI算力
　　通过一代又一代产品的改进，英伟达为AI行业持续提供低成本高性能的算力方案，并帮助AI行业将这些算力切实有效地导入到具体应用场景。这也使得AI应用在最近几年实现了长足发展，并使得英伟达的软硬件方案成为了人工智能行业最为重要的“基础设施”之一。
　　尽管如此，英伟达在自我迭代上丝毫没有放松。以针对数据中心的AI加速卡为例，英伟达在此之前已凭借两代数据中心GPU在数据中心AI加速上占据了绝对的市场份额。但在2022年的GTC22上，英伟达又再次发布了全新的数据中心加速卡，通过云服务商在数据中心的部署，可望将全球云端AI算力提升到一个全新的水平。
　　当然，除了云端AI算力的提升，边缘AI算力的提升或许更容易被感知。随着物联网的迅速普及，人工智能与物联网在实际应用中的落地与融合无疑将推动人类社会进入“万物智能互联”时代，而随之产生的数据也将呈井喷式爆发。这些数据对于现有网络带宽是巨大的压力，也为传统的云端AI加速提出了巨大的难题。
　　好消息是，正是基于云端AI加速赋予的强大算力，人工智能和机器学习领域取得了巨大进步，并为机器学习、神经网络训练等网络架构和工具不断适配、兼容到嵌入式系统上提供了先决条件。越来越多的AI应用开始可以直接在边缘设备运行，使得边缘AI成为当下的发展趋势。
　　所谓边缘AI是指在硬件设备上本地处理的AI算法，可以在没有网络连接的情况下处理数据。这意味着其可以在无需流式传输或在云端数据存储的情况下进行数据创建等操作。为了实现这些目标，边缘AI可以在云上靠深度学习生成数据，而在设备本身（边缘）执行模型的推断和预测。
　　相比云端AI加速，边缘AI加速至少具有带宽、延迟、经济性、可靠性和隐私几个好处。
　　第一，边缘AI可以降低网络带宽需求。由于边缘设备处理了部分产生的临时数据，不再需要将全部数据上传至云端，这极大地减轻了网络带宽的压力，且减少了对计算存储资源的需求。
　　第二，边缘AI在靠近数据源端进行数据处理，能够大大地减少系统时延，提高服务的响应时间。这对于一些对延时要求较高的应用场景，如自动驾驶等而言极为重要。
　　第三，边缘AI在特定场景下具有更好的经济性。这些特定应用即便能从技术上解决带宽和延迟问题实现云端AI加速，但在边缘执行计算可能更划算。
　　第四，边缘AI的可靠性更好。考虑到云端网络连接并非一直可靠，需要持续运行的场景使用边缘AI显然更合适。比如，智能门锁具有人脸识别开锁的功能。显然，用户会希望即使网络断开，这个功能依然可以正常使用。
　　第五，边缘AI可以为关键性隐私数据的存储与使用提供基础设施，提升数据的安全性，从而解决特定应用对隐私的考虑。
　　正因为此，边缘AI成为了近年来兵家必争之地。来自ABIResearch的数据显示，预计到2025年，边缘AI加速芯片的市场规模将达到122亿美元，超越云端AI加速芯片119亿美元的市场规模。
　　在GTC22上，英伟达首次发布了用于高精度边缘AI的IGX平台，将为医疗等行业带来先进、主动的安全性能，并能够改善人机协同。IGX平台将可以提供安全、低延迟的AI推理能力，以满足临床对医疗程序中一系列医疗器械和传感器对即时数据的处理需求，如机器人辅助手术、患者监测系统等。
　　英伟达IGX边缘AI平台（图片由英伟达提供）
　　IGX平台是一套强大的硬件和软件组合，除了IGXOrin这一强大、紧凑、节能的AI超级计算机硬件外，也将提供对一系列软件方案的支持，比如ClaraHoloscan这一用于医疗器械的即时AI软件方案。它可助力医疗器械开发者接合边缘、本地数据中心与云服务，并通过这种集成快速开发新型软件定义设备，将最新AI应用直接引入手术室。
　　目前，三家领先医疗器械初创企业ActivSurgical、MoonSurgical和Proximie已选择依托IGXClaraHoloscan的组合为其手术机器人系统提供强大支持。
　　比如，ActivSurgical利用IGXClaraHoloscan来加速其AIVRAR解决方案的开发以实现实时手术指导。这家美国企业使用增强现实技术让外科医生可以查看类似血流等肉眼无法看到的关键生理结构和生理机能，并将信息集成到手术成像系统中，从而降低手术并发症的发生率，改善患者医护服务并加强患者安全。
　　法国企业MoonSurgery正在设计的Maestro是一款易于使用、具有自适应性的手术辅助机器人系统，可与手术室内已安装的医疗器械和工作流配合发挥作用。借助IGXClaraHoloscan的帮助，Maestro的影像管道、管理系统和硬件设计工程周期缩短了至少6个月，从而使其可以转而将宝贵的工程设计资源集中在人工智能算法和其他独特特征上。
　　英国企业Proximie则正在构建远程呈现平台，以实现外科医生的实时远程协作。IGXClaraHoloscan的组合使其能够在手术室中处理本地视频，为用户提高性能的同时保护数据隐私并降低云计算成本。目前，Proximie已被部署到全球500多个手术室中，并完成了对数以万计的手术的记录。
　　包括这三家公司在内，目前已有超过70家医疗器械公司、初创企业和医疗中心已经在使用Holoscan推动AI应用在临床环境中的部署并将医疗器械发展成SaaS业务模式。毫无疑问，在英伟达IGX平台的支撑下，边缘AI在医疗领域的应用即将迎来爆发，一如当初的AI医疗影像。
　　优化和拓展，软件进化完善布局
　　在英伟达过往数十年的成功经验中，软件方案对硬件的增强是其在与竞争对手的竞争中胜出的重要武器。正因为此，英伟达向来对软件生态高度重视，并在2021年提出打造AI底座的概念，NVIDIAAIEnterprise平台（NVAIE）就是这一概念的结果。
　　NVAIE旨在通过提供全套工具链来解决企业在AI应用开发中的挑战，帮助企业高效、安全地构建和部署AI应用。这套工具链应该包括模型部署工具、模型管理平台、模型监控工具、数据隐私保护工具等等，从而可以帮助企业更好地管理和控制AI应用开发过程，确保AI应用的可用性和可靠性。
　　随着这一版本的不断迭代更新，刚刚发布的NVAIE3。0终于在功能上接近了这一目标。这个堪称操作系统的一站式AI开发平台可以于快速打造AI应用，包括模型训练、推理优化、部署、模型管理、云原生管理等AI应用开发上线的全流程。以往需要耗时数个月才能开发完成的AI应用，在NVAIE3。0平台下，甚至可以做到数小时完成。
　　为了加快AI应用开发效率，提升最终AI应用效果，NVAIE3。0还内置了大量未加密且完全开放权重的预训练模型，可供用户直接调用。
　　除了NVAIE3。0，专门针对医疗场景的Clara平台早在2018年就已推出。英伟达同样一直在不断对其进行优化和拓展，以完善其在医疗健康的布局。最初，Clara仅是为影像学AI研究者提供一个医学影像的软件开发工具，以标准化影像数据，并提升AI训练速度。
　　随后，通过与业界的合作，Clara开始向基因组学拓展。毕竟，基因组是一个更为庞大的数据源，要处理亿级的碱基配对，必须找到更理想的算力来源，才能保证试验在成本上可行。
　　随着英伟达对医疗健康应用场景的理解越来越深入，更多的医疗行业解决方案开始被放入Clara平台。如同英伟达最初建立行业地位的“GeForce”在游戏界的地位一样，它显然希望“Clara”能够与医疗健康绑定这一定位于面向医疗开发者的智能计算软件平台为更想要探索医疗领域的开拓者提供高效便捷的数据分析工具。
　　在GTC22上，英伟达则宣布了新的进展它将与美国麻省理工学院和美国哈佛大学旗下的博德研究所合作，为博德研究所的Terra云平台提供快速分析海量医疗数据所需的AI算法和加速工具。
　　作为由博德研究所、微软和Verily共同开发的云平台，生物医学研究人员能够通过Terra平台安全、大规模地共享、访问和分析数据。目前，平台包括来自学术界、初创企业和大型制药公司的25000多名生物医学研究人员。他们都将从合作中获益。
　　根据披露，此次合作将重点关注下列三大关键领域。
　　第一，英伟达将在Terra云平台上提供测序数据二级分析的GPU加速软件套件ClaraParabricks。它可以大幅缩短基因组分析时间至一小时多一点在以往基于CPU环境的Clara中这个时间需要24小时。此外，ClaraParabricks还可将整个基因组测序分析的成本降低50。
　　第二，英伟达还发布了BioNeMo框架，用于训练和部署超算规模的大型生物分子语言模型（LLM），帮助科学家更好地了解疾病，并为患者找到治疗方法。BioNeMo框架将支持化学、蛋白质、DNA和RNA数据格式，它也是ClaraDiscovery药物研发框架、应用和AI模型集的一部分。
　　英伟达BioNeMo框架应用示意图（图片由英伟达提供）
　　第三，英伟达还致力于为10多万名研究人员所使用的行业标准工具博德研究所的GATK工具包打造新的深度学习模型，帮助研究人员识别与疾病相关的基因变异。这将助力新药研发人员研究新的疗法。
　　这次合作将有望通过一个开放的云平台将研究人员相互联系起来，并将研究人员与其实现科学突破所需的数据集和工具连接起来，从而将生物医学合作研究提升到一个全新的阶段。
　　此外，Terra平台的用户还能够访问用于医学影像AI的开源深度学习框架MONAI，以及可用于加快基因组单细胞分析数据准备工作的GPU加速数据科学工具包RAPIDS。
　　提到MONAI，这一开源AI开发框架在模型构建上是Clara生态的重要一环。MONAI具有自动标注工具来协助开发者标注数据，并能够实现自动化模型挑选和参数调优。同时，MONAI也具有自监督学习，可以利用非标注数据训练模型，从而缩短标注时间。
　　此外，MONAI针对医疗数据的独特需求进行了专项优化，使其能够处理医学图像所特有的格式、分辨率和元信息。开发者可以利用其专门用于医疗领域的数据转换、神经网络架构和评估方法来评估医学影像模型的质量。
　　因其开源和易用特性，MONAI自推出后反响良好，下载量已突破65万次在2022年2月，月下载量还只有5万次而已。
　　MONAI的功能还在进一步增强英伟达在2022年12月举办的（北美放射学年会）上发布了MONAI应用包（简称：MAP），它将使得MONAI能更轻松地将模型集成到临床工作流中。
　　在以往，如果想要在影像部门部署几个AI模型来帮助专家识别十几种不同的病症或实现医学影像报告的半自动化创建，需要耗费大量时间和资源来为每个模型寻求合适的硬件和软件基础设施。这种方式虽然“可能”，但并不“可行”。
　　通过MONAIDeploy提供的MAP则是一种AI模型的打包方式，能够大幅简化这一流程。如果开发者使用MAP打包一个应用，医院就可以轻松地在本地或云端运行这一应用。同时，MAP规格还整合了医疗信息化标准，比如医学影像互操作性标准DICOM等。
　　目前，世界各地的医疗机构、学术医疗中心和AI软件开发商正在采用MAP。
　　比如知名的美国辛辛那提儿童医院，该学术医疗中心正在为一个能够在CT影像中自动分割整体心脏容积的AI模型创建MAP，进而通过美国国立卫生研究院资助的一个项目，为小儿心脏移植患者提供援助。此外，美国加州大学旧金山分校也在为包括髋部骨折检测、肝脏和脑肿瘤分割、膝关节和乳腺癌分类等几个AI模型开发MAP。
　　开发了用于肺癌、脑外伤和肺结核等用例的医学影像AI模型的Qure。ai则正使用MAP打包需要部署的解决方案，推动这些解决方案更快速地在临床发挥影响力。SimBioSys则建立了患者肿瘤的3D虚拟表征，并将MAP用于有助预测患者对特定治疗会作何反应的精准医疗AI应用。
　　此外，知名的云服务商，如亚马逊、谷歌、微软和甲骨文等正陆续将MAP整合其中，以助力采用MONAIDeploy的研究者和企业通过容器或原生应用集成，在自己的平台上运行AI应用，从而为用户助力。
　　写在最后
　　不难看出，无论从硬件还是软件，英伟达一直在与业界紧密合作，不断了解行业的需要并根据反馈对其完善。并通过自我迭代不断完善其AI解决方案，使其能够提升AI在医疗应用中的性能、效率并降低成本，这将使得英伟达在AI医疗行业生态中的地位进一步提升。