|
（原标题：可适配低端算力芯片，APUS-xDAN 大模子4.0（MoE）开启时间普惠）
在东说念主工智能领域，一场由APUS与新旦智能联手掀翻的开源改革正在演出。 4月2日，APUS与策略互助伙伴新旦智能长入练习、研发的千亿MoE（Mixture of Experts）架构大模子，在GitHub上认真开源。从适配低端算力芯片已毕行业普惠，到国内首个开源的千亿参数MoE架构大模子模子提质增效，APUS-xDAN 大模子4.0（MoE）的应用之风刚硬势来袭。 
比拟国内其他大模子公司，这次与APUS长入开源大模子的新旦智能略显年青，但首创团队气势却颇为豪华：这是一支由清华、伯克利、腾讯、Meta等顶尖学术与工程界精英构成的团队，成员包括大众顶尖的开源AI社区有名修复者、资深腾讯云架构师等，并已于本年3月初，完成了千万级别的天神轮融资，由APUS与AI行业资深投资东说念主周确认长入投资。 这次两边强强长入，集成各方上风，让APUS-xDAN 大模子4.0（MoE）在4090之类的低端算力芯片上，概述性能达到了GPT-4 的90%。这一全新毁坏，将为中国企业应用大模子时间提供更大价值，进一步通过算法优化得胜破解“算力卡脖子”的费力。 适配低端算力芯片，开启时间普惠新时间 近日，好意思国商务部发布公告，对好意思国2023年10月17日发布的半导体出口不断限定进行改造，除此前限度英伟达等公司向中国出口先进的AI芯片，这次新规再次加码，对向中国出口芯片的限度也适用于包含低端芯片的札记本电脑，象征着中国将更难取得好意思国东说念主工智能芯片和芯片制造器具。 
濒临国内算力资源局限与外洋时间紧闭，APUS董事长兼CEO李涛谈到：“中国要思跳出由好意思牵头打算的‘算力陷坑’，一方面就要从算法上进化，能用低端算力来作念高端模子；另一方面则是抓续鼓舞应用生态的进化，只好坚抓双向进化，才有可能已毕破局。” 而这次开源的，APUS-xDAN 大模子4.0（MoE）便是纠合数据、工程和芯片4090上顺畅初始的千亿参数领域大模子，APUS-xDAN 大模子4.0（MoE）进一步破局好意思半导体出口不断，得胜助力中国AI产业在模子应用上已毕普惠。 
经实质测试袒露，APUS-xDAN 大模子4.0（MoE）从时间认识上来看，模子数学本事的GSM8K达到79分，确认本事的MMLU达到73分，推理本事的BBH达到了66分，概述性能高出GPT3.5，靠近GPT4，在数学本事上更是碾压马斯克开源的Grok。 对政府而言，APUS-xDAN 大模子4.0（MoE）的出身意味着在有限的国产算力资源下，我国也曾能自主构建并初始顶级超大领域谈话模子，大幅升迁国度层面的时间自力新生本事与策略安全。 对企业和个东说念主修复者，尤其是资金有限的小创业者，无需斥巨资购置高端GPU，如A100和H100，仅需借助相对经济的4090，即可阁下这款庞杂的AI器具，极地面缩短了创新门槛，已毕AI时间的普及与等闲应用。 国内千亿MoE架构模子开源，重塑遵循界限 不难发现，这次开源的APUS-xDAN 大模子4.0率先引入MoE（Mixture of Experts）架构，成为国内首个开源的千亿参数MoE架构大模子。相较于其他声称领有MoE架构但未开源考据的模子，APUS-xDAN 大模子4.0（MoE）真确将MoE架构应用于超大领域模子。 值得一提的是，APUS-xDAN 大模子4.0（MoE）剿袭GPT4访佛的MoE架构，特色是多各人模子组合，同期激活使用只好2个子模块，实质初始效果对比传统Dense同尺寸模子效果升迁200%，推理老本下跌400%。在实质部署上，通过进一步的高精度微调量化时间，模子尺寸松开500%，从而领有了国内首个不错在耗尽级显卡初始的千亿MoE中英文大模子。 
这些秉性赋予APUS-xDAN 大模子4.0（MoE）在处理复杂任务时，领有无与伦比的学习效果与模子容量，为东说念主工智能的界限拓展注入澎湃能源，为中国AI产业开荒了全新破局蹊径，成为国产大模子创新探索的先行军。 这次，APUS-xDAN 大模子4.0（MoE）以令东说念主详尽的1360亿参数领域，一举卓越现时国内最翻开源模子——阿里的千问72B（720亿参数），概述性能达到主流大模子TOP级。这一历史性毁坏，不仅见证了我国在超大领域预练习模子研发领域的紧要飞跃，更有劲彰显了我国东说念主工智能科研实力与时间创新力的外洋地位。 构建AI产业应用生态，赋能千行万业 “AI的发展与应用，离不开大模子的因循。而开源大模子的出现，则让更多的企业和修复者大要行使这些模子，来构建更多东说念主工智能+应用。”李涛示意，这次，APUS-xDAN 大模子4.0（MoE）的开源，一定进度上填补了我国在千亿级别参数模子开源上的空缺，也为东说念主工智能时间的发展与应用带来了更多的可能性。 自2014年创立以来，APUS于今已推出200余款应用产物，涵盖器具、内容与劳动等多个场景。APUS转型东说念主工智能后，重构自己原坐褥物矩阵，以器具+AI，内容+AI，劳动+AI三层应用为全线产物赋能，探索孵化用户端超等应用。 在行业应用场景上，从应用在G端网信领域能已毕智能辟谣的「APUS智信大模子」，到加抓B端病院智能救助的「APUS岐黄大模子」、智能电商营销的「APUS少伯大模子」，到C端领有智能绘图本事的「APUS墨染大模子」、中语创作领域领有AI写抄本事的「APUS云梦大模子」，以及已毕文生视频本事的「APUS墨视大模子」……APUS正加快已毕大模子普惠，让AI应用更浅易。 
在APUS AI盛开本质室，修复者可通过API接口，快速部署我方的创思应用。如今，该AI盛开本质室会聚了来疯狂众的顶尖AI东说念主才，通过APUS的算力支抓，共同开源、盛开最新的AI大模子，进而鼓舞AI产业健康发展。 据悉，这次开源的APUS-xDAN 大模子4.0（MoE）亦然APUS继与深圳大学国度工程本质室长入开源APUS大模子3.0（伶荔）后，带来的又一个重磅大模子，象征着APUS在AI通用大模子的布局上更进一阶。 改日，濒临东说念主工智能产业的发展与挑战，APUS将通过抓续的时间研发与社区共建，积极探索责罚决策，继续升迁开源大模子的踏实性和泛化本事，确保其在各类复杂应用场景中永久保抓最初上风，进一步赋能千行万业。 本文起首：财经报说念网
|
