0

0

美团正式上线LongCat App:开启全模态实时交互时代

蓮花仙者

蓮花仙者

发布时间:2025-11-06 16:33:01

|

985人浏览过

|

来源于php中文网

原创

11月3日,longcat-flash系列迎来重大升级,全新成员longcat-flash-omni正式发布并全面开源,同时longcat官方app开启公测。当前版本已支持联网搜索、语音通话等核心功能,视频通话等功能将陆续上线;web端也新增了图片与文件上传、语音通话等能力。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

美团正式上线LongCat App:开启全模态实时交互时代

据官方介绍,LongCat-Flash-Omni基于LongCat-Flash系列高效的Shortcut-Connected MoE架构(含零计算专家),融合了先进的多模态感知模块和语音重建技术。在总参数量高达5600亿(激活参数为270亿)的规模下,依然实现了低延迟的实时音视频交互,为开发者在多模态应用领域提供了更高效的技术路径。

该模型是业内首个集“全模态覆盖、端到端架构、大参数量下的高效推理”于一体的开源大语言模型,首次在开源生态中实现与闭源全模态模型对标的综合能力。依托创新的架构设计与深度工程优化,LongCat-Flash-Omni可在多模态任务中达成毫秒级响应,有效破解行业长期面临的高延迟推理难题。

具体而言,LongCat-Flash-Omni在一个统一框架内整合了离线多模态理解与实时音视频交互能力,采用完全端到端的设计方案:以轻量级视觉与音频编码器作为多模态输入接口,由大语言模型直接处理原始输入并生成文本与语音token,再通过小型音频解码器还原成自然语音波形,从而实现流畅的低延迟交互体验。所有组件均按流式推理优化设计,视觉编码器与音频编解码器均为约6亿参数的小型模块,延续了LongCat-Flash系列高效能的核心设计理念,在性能与效率之间达到最佳平衡。

美团正式上线LongCat App:开启全模态实时交互时代

▲LongCat-Flash-Omni模型架构

此外,该模型成功突破“大规模参数与实时交互难以共存”的技术瓶颈,在保持5600亿总参数(激活270亿)的庞大结构基础上,借助ScMoE骨干架构、高效多模态编解码器以及“分块式音视频特征交织机制”,实现了高质量、低延迟的音视频处理与流式语音输出。模型支持高达128K tokens的上下文窗口,可持续进行超过8分钟的音视频对话,在长时记忆、多轮交互与时序推理等方面表现突出。

面对全模态训练中各模态数据分布差异显著的挑战,LongCat-Flash-Omni采用了渐进式早期多模融合策略,通过平衡的数据调度与分阶段融合方式,逐步引入文本、音频、视频等多种模态信息,确保整体性能全面提升的同时,不牺牲任何单一模态的表现力。

美团正式上线LongCat App:开启全模态实时交互时代

综合评测显示,LongCat-Flash-Omni在多个全模态基准测试(如Omni-Bench、WorldSense)中达到开源领域的最先进水平(SOTA),在文本、图像、音频、视频等各项能力上均位居前列,真正实现“全模态不降智”。

白果AI论文
白果AI论文

论文AI生成学术工具,真实文献,免费不限次生成论文大纲 10 秒生成逻辑框架,10 分钟产出初稿,智能适配 80+学科。支持嵌入图表公式与合规文献引用

下载

美团正式上线LongCat App:开启全模态实时交互时代

▲LongCat-Flash-Omni 的基准测试性能

文本能力:继承并强化了LongCat-Flash系列原有的强大文本基础,在多个领域持续领先。相比前代版本,不仅未出现性能衰减,反而在部分任务中有所提升,验证了其训练策略的有效性,也揭示出多模态协同学习的巨大潜力。

图像理解:在RealWorldQA测评中取得74.8分,与闭源模型Gemini-2.5-Pro相当,优于Qwen3-Omni等开源方案;尤其在多图理解和图文交织任务中表现优异,得益于高质量的图文、多图及视频数据训练。

音频能力:在ASR、TTS、语音续写等多个维度表现出色。指令模型在LibriSpeech、AISHELL-1等ASR任务上超越Gemini-2.5-Pro;S2TT在CoVost2数据集上表现强劲;音频理解在TUT2017、Nonspeech7k等非语音识别任务中达到当前最优;在OpenAudioBench、VoiceBench等音频对话评测中成绩领先,实时交互评分接近闭源模型,类人性指标甚至优于GPT-4o,展现出从基础能力到实际应用的高效转化。

视频理解:在视频到文本任务中表现卓越,短视频理解显著领先现有模型,长视频理解能力与Gemini-2.5-Pro和Qwen3-VL相当。这归功于动态帧采样、分层令牌聚合等先进视频处理策略,以及对长序列建模的强大支持。

跨模态理解:整体性能优于Gemini-2.5-Flash(非思考模式),接近Gemini-2.5-Pro(非思考模式);在真实场景音视频理解基准WorldSense上,相较其他开源全模态模型优势明显,充分体现了其强大的多模态融合能力,成为当前综合表现最强的开源全模态模型之一。

美团正式上线LongCat App:开启全模态实时交互时代

端到端交互评估:鉴于目前缺乏成熟的实时多模态交互评测体系,LongCat团队自主构建了一套完整评测框架,包含250名用户参与的定量打分与10位专家对200个对话样本的定性分析。结果显示:在自然度与流畅度方面,LongCat-Flash-Omni在开源模型中遥遥领先,得分比Qwen3-Omni高出0.56分;专家分析指出,其在副语言理解、相关性和记忆能力上与顶级模型持平,但在实时性、类人性和准确性方面仍有提升空间,未来将持续优化改进。

相关文章

美团
美团

美团app是一款吃喝玩乐一应俱全的生活服务类软件,汇集团购、美食、酒店、外卖、电影、美发、美甲、KTV等服务于一体,为用户提供非常便利且全面的服务,有需要的小伙伴快来保存下载体验吧!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
登录token无效
登录token无效

登录token无效解决方法:1、检查token的有效期限,如果token已经过期,需要重新获取一个新的token;2、检查token的签名,如果签名不正确,需要重新获取一个新的token;3、检查密钥的正确性,如果密钥不正确,需要重新获取一个新的token;4、使用HTTPS协议传输token,建议使用HTTPS协议进行传输 ;5、使用双因素认证,双因素认证可以提高账户的安全性。

6099

2023.09.14

登录token无效怎么办
登录token无效怎么办

登录token无效的解决办法有检查Token是否过期、检查Token是否正确、检查Token是否被篡改、检查Token是否与用户匹配、清除缓存或Cookie、检查网络连接和服务器状态、重新登录或请求新的Token、联系技术支持或开发人员等。本专题为大家提供token相关的文章、下载、课程内容,供大家免费下载体验。

810

2023.09.14

token怎么获取
token怎么获取

获取token值的方法:1、小程序调用“wx.login()”获取 临时登录凭证code,并回传到开发者服务器;2、开发者服务器以code换取,用户唯一标识openid和会话密钥“session_key”。想了解更详细的内容,可以阅读本专题下面的文章。

1062

2023.12.21

token什么意思
token什么意思

token是一种用于表示用户权限、记录交易信息、支付虚拟货币的数字货币。可以用来在特定的网络上进行交易,用来购买或出售特定的虚拟货币,也可以用来支付特定的服务费用。想了解更多token什么意思的相关内容可以访问本专题下面的文章。

1265

2024.03.01

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1027

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

66

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

454

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

10

2026.01.19

Java JVM 原理与性能调优实战
Java JVM 原理与性能调优实战

本专题系统讲解 Java 虚拟机(JVM)的核心工作原理与性能调优方法,包括 JVM 内存结构、对象创建与回收流程、垃圾回收器(Serial、CMS、G1、ZGC)对比分析、常见内存泄漏与性能瓶颈排查,以及 JVM 参数调优与监控工具(jstat、jmap、jvisualvm)的实战使用。通过真实案例,帮助学习者掌握 Java 应用在生产环境中的性能分析与优化能力。

19

2026.01.20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 8万人学习

Rust 教程
Rust 教程

共28课时 | 4.6万人学习

Git 教程
Git 教程

共21课时 | 2.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号