阿里云飞天实验室的ai for science团队发布了突破性的生成式dna大模型——generator,为基因组学研究带来了革命性进展。该模型基于transformer解码器架构,在dna序列解码和预测方面展现出卓越性能,并已在多个基准测试中达到业界领先水平。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

GENERator的核心优势在于其超长的上下文长度(98k碱基对)和庞大的参数规模(12亿),能够对复杂且连续的基因结构进行精准建模,克服了传统方法的“碎片化”分析局限。此外,该模型具备跨物种的泛化能力,其训练数据涵盖了3860亿碱基对的真核生物DNA数据,适用范围广泛。更重要的是,GENERator不仅能够“理解”DNA的语义,还能“创造”具有功能性的DNA序列,堪称“生命语言的GPT”。

GENERator的强大能力体现在多个应用方面:
- 蛋白家族定制: GENERator能够生成可翻译成真实蛋白质的DNA序列,成功创建了组蛋白/P450家族的全新变体。生成的蛋白质序列与天然家族高度一致,其三维结构预测结果也与已知结构高度相似,证明了GENERator并非简单地复制现有序列,而是真正掌握了蛋白质设计的核心规律。

- 启动子设计: 通过微调,GENERator可作为启动子活性预测器,其准确率超越了DeepSTARR和NT-multi。更重要的是,它能够根据指令生成具有特定活性分布的启动子序列,展现了其在基因表达调控中的巨大潜力。

GENERator的成功也离不开其独特的预训练策略,包括专注于功能性区域的基因序列训练、6-mer分词器的选择以及Transformer架构的运用。这些策略有效地提升了模型的性能和稳定性。

未来,研究团队计划扩展GENERator的应用范围,包括开发针对原核生物和病毒基因组的版本,以及探索其在基因注释和临床基因组学中的应用。GENERator有望在精准医疗和生物技术干预中发挥关键作用,为生命科学研究带来新的篇章。

论文链接:https://www.php.cn/link/b237e7e6bada3f572c342dc4bbcda0d2
项目主页:https://www.php.cn/link/4ec31eeaba1b784b650382236495532d










