NVIDIA Details BioNeMo Inference Runtime (BioIR): 2.90x Higher Boltz-2 Folding Throughput and 58.5K Residues per GPU-Hour on 8xH100

📋总体概括

NVIDIA详细介绍了BioNeMo推理运行时（BioIR），一个在纯PyTorch环境下加速生物分子结构预测模型的Python库。在1000个人类二聚体靶点、8xH100 GPU的对比基准测试中，BioIR加速的Boltz-2达到每GPU小时58.5K个成功折叠残基，比torch编译的开源实现的20.2K高2.90倍。该运行时从自定义内核选择、CUDA Graph捕获和基于Ray的副本扩展三层进行优化，每块GPU放置一份完整模型副本。BioIR已支撑AlphaFold数据库扩展，在4777个蛋白质组中生成约3100万个候选蛋白复合物。