网讯(记者刘逸鹏)8月4日ღ★✿,腾讯混元宣布开源四款小尺寸模型ღ★✿,参数分别为0.5Bღ★✿、1.8Bღ★✿、4Bღ★✿、7Bღ★✿,消费级显卡即可运行k8凯发娱乐k8凯发娱乐ღ★✿,适用于笔记本电脑ღ★✿、手机ღ★✿、智能座舱ღ★✿、
据介绍ღ★✿,这四款模型的推出ღ★✿,是腾讯混元大模型持续开源的一大举措ღ★✿,也进一步丰富了混元开源模型体系ღ★✿,可为开发者和企业提供更多尺寸的模型选择ღ★✿。目前ღ★✿,四个模型均在Github和HuggingFace等开源社区上线ღ★✿,Armღ★✿、高通ღ★✿、Intelღ★✿、联发科技等多个消费级终端芯片平台也都宣布支持部署ღ★✿。
新开源的4个模型属于融合推理模型k8凯发娱乐ღ★✿,具备推理速度快ღ★✿、性价比高的特点ღ★✿,用户可根据使用场景灵活选择模型思考模式——快思考模式提供简洁ღ★✿、高效的输出ღ★✿;而慢思考涉及解决复杂问题ღ★✿,具备更全面的推理步骤ღ★✿。
据了解ღ★✿,这四个模型的亮点在于agent和长文能力k8凯发娱乐ღ★✿,跟此前开源的Hunyuan-A13B模型一样k8凯发娱乐ღ★✿,技术上通过精心的数据构建和强化学习奖励信号设计ღ★✿,提升了模型在任务规划ღ★✿、工具调用和复杂决策以及反思等agent能力上的表现ღ★✿,让模型实际应用中可以轻松胜任深度搜索ღ★✿、excel操作ღ★✿、旅行攻略规划等任务ღ★✿。
此外ღ★✿,模型原生长上下文窗口达到了256kღ★✿,意味着模型可以一次性记住并处理相当于40万中文汉字或50万英文单词的超长内容ღ★✿,相当于一口气读完3本《哈利波特》小说ღ★✿,并且能记住所有人物关系ღ★✿、剧情细节ღ★✿,还能根据这些内容讨论后续故事发展祭亡灵杀手ღ★✿。
部署上ღ★✿,四个模型均只需单卡即可部署ღ★✿,部分PCღ★✿、手机ღ★✿、平板等设备可直接接入ღ★✿。并且ღ★✿,模型具有较强的开放性ღ★✿,主流推理框架(例如ღ★✿,SGLangღ★✿,vLLMandTensorRT-LLM)和多种量化格式均能够支持ღ★✿。
应用层面ღ★✿,四款小尺寸模型都能够满足从端侧到云端ღ★✿、从通用到专业的多样化需求ღ★✿,并且已经在腾讯多个业务中应用ღ★✿,可用性和实用性经过了实践的检验ღ★✿,是真正实用的模型ღ★✿。
例如祭亡灵杀手k8凯发娱乐ღ★✿,依托模型原生的超长上下文能力ღ★✿,腾讯会议AI小助手ღ★✿、微信读书AI问书AI助手均实现对完整会议内容ღ★✿、整本书籍的一次性理解和处理ღ★✿。
在端侧应用上祭亡灵杀手ღ★✿,腾讯手机管家利用小尺寸模型提升垃圾短信识别准确率ღ★✿,实现毫秒级拦截ღ★✿,隐私零上传ღ★✿;腾讯智能座舱助手通过双模型协作架构解决车载环境痛点ღ★✿,充分发挥模型低功耗k8凯发娱乐ღ★✿、高效推理的特性祭亡灵杀手ღ★✿。
在高并发场景中ღ★✿,搜狗输入法基于模型的多模态联合训练机制使嘈杂环境下提升识别准确率ღ★✿;腾讯地图采用多模型架构ღ★✿,利用意图分类和推理能力提升了用户交互体验ღ★✿;微信输入法“问AI”基于模型实现输入框与AI即问即答的无缝衔接ღ★✿。
在需求各异ღ★✿、约束严苛的垂直行业应用中ღ★✿,金融AI助手通过Prompt优化和少量数据微调实现95%+意图识别准确率ღ★✿,展现出金融级的高可靠性ღ★✿;游戏翻译和QQ飞车手游NPC充分利用模型的理解能力在多语言理解能力ღ★✿、方言翻译和智能对话方面有突出表现ღ★✿,这些能力在专业客服ღ★✿、内容出海甚至电商直播等场景有巨大应用潜力ღ★✿。
最近ღ★✿,全球开源领域异常热闹ღ★✿,中国大模型表现抢眼ღ★✿。腾讯混元大语言模型也在持续推进开源ღ★✿,参与技术社区的共建之中ღ★✿,其开源模型已覆盖文本ღ★✿、图像ღ★✿、视频和3D生成等多个模态ღ★✿。
在大语言模型领域ღ★✿,腾讯混元此前陆续开源了激活参数量达52B的Hunyuanlarge和首个混合推理MoE模型Hunyuan-A13Bღ★✿。
多模态方面ღ★✿,混元还开放了完整多模态生成能力及工具集插件ღ★✿,陆续开源了业界领先的文生图祭亡灵杀手ღ★✿、视频生成和3D生成能力ღ★✿,提供接近商业模型性能的开源基座ღ★✿,方便社区基于业务和使用场景定制ღ★✿,图像ღ★✿、视频衍生模型数量达到3000个ღ★✿。
7月27日ღ★✿,腾讯发布并开源混元3D世界模型1.0ღ★✿,这一模型一经发布即迅速登上HuggingFace趋势榜第二ღ★✿,下载量飙到近9kღ★✿,混元3D世界模型技术报告还拿下了HuggingFace论文热榜第一ღ★✿。
腾讯表示ღ★✿,开源是腾讯混元大模型长期坚持的方向ღ★✿,未来腾讯混元也将不断提升模型能力ღ★✿,继续积极拥抱开源ღ★✿,推出更多尺寸ღ★✿、更多模态的模型ღ★✿,加速产业落地和应用ღ★✿,与开发者和合作伙伴共建大模型开源生态ღ★✿。凯发天生赢家一触即发登录入口ღ★✿,光伏发电ღ★✿!凯发k8官网入口ღ★✿!