【微软发布三款顶级AI模型碾压GPT-4】 微软公司近日发布了 Ph
2024-11-17 【 字体:大 中 小 】
【微软发布三款顶级AI模型碾压GPT-4】
微软公司近日发布了 Phi-3.5 系列 AI 模型,其中最引人注目的是推出了首个混合专家模型(MoE)版本 Phi-3.5-MoE。该系列还包含 Phi-3.5-vision 和 Phi-3.5-mini 两款轻量级 AI 模型。
首先,我们来看 Phi-3.5-MoE 这个混合专家模型。它使用了16个3.8亿参数的专家和2个专门激活了66亿个参数的组件,并且使用了512个H100进行训练。微软研究团队从零开始设计这个模型以进一步提高其性能。在标准人工智能基准测试中,它的性能超过了Llama-3.1 8B、Gemma-2-9B和Gemini-1.5-Flash,甚至接近目前领先者 GPT-4omini。其次,我们来看 Phi-3.5-vision 这个增强型多帧图像理解模型。它拥有42亿参数,在256个A100 GPU上进行了500B标记下的训练,并且现在支持多帧图像理解和推理。与之前发布的MMBench相比,它在文档理解基准TextVQA上的性能提高了70.9%。
最后,我们来看 Phi-3.5-mini 这个轻量级、强功能模型。它拥有38亿参数,超过了Llama3.1 8B和Mistral 7B,甚至可以媲美 Mistral NeMo 12B。这个模型仅使用了512个H100进行训练,并且在多语言任务中具有很强的竞争力。
此外,值得一提的是, Phi -3 . 5 -mini 现在支持128K上下文窗口,而其主要竞争对手 Gemma -2 系列仅支持8K。
总结起来,在本次发布的产品中,微软展示出了其强大的AI技术实力,并且这些产品将有望应用于多个领域。
猜你喜欢
20230131|东吴期货研究所策略早参
8848
进入英国九大公学的合理化路径,先进入对口预备小学。
584
金荣中国美联储利率决议如期落地,金价冲高回落加剧顶部预期
4078
异动快报:国盛金控(002670)7月19日10点48分触及涨停板
8999
2025年4月22日今日美元走势分析
6210
#手机中的钉子户有哪些# 提到手机钉子户,小米6无疑是绕不过去的经典
550
财牛期货:安全可靠的期货交易平台,下载即享优惠!
4737
合法的配资公司网站:风险与机遇并存的投资旅程
548
险资今年举牌近20次 多元化布局权益市场
3035
中央气象台5月4日18时继续发布气象干旱黄色预警
382
韩国一电池厂发生火灾致20多人死亡
大全能源(688303SH):回购期限已届满 已实际回购102935万股公司股份
震惊!科技公司CEO从6米高笼中坠落死亡,总裁也重伤!警方认为不是单纯的事故
【ETF动向】8月29日嘉实沪深300ETF基金跌043%,份额增加998999万份
规模最大!广州市“南粤春暖”省、市、区联动大型招聘会增城区分会场活动举行
按天股票配资:撬动股市,成就财富梦想?
联合化学(301209)2月7日主力资金净买入3626万元
4月30日联诚转债上涨121%,转股溢价率1646%
配资炒股怎么办理? 风险与收益并存的边缘试探
孙悦前妻陈露久违现身,CBA最美花魁,这身材绝了…
JCtrans率先推出AI大模型产品“货代圈”,全面赋能国际物流行业高效交易
市值一夜暴涨近5000亿元!特斯拉第二季度交付超预期,低估值高增长概念股出炉
疯狂一周!全球股市暴涨暴跌!恐慌还是淡定?来看历史答案
民企“接班时代”来临,银行私人银行业务快速增长
中关村:一季度扣非净利润增长125% 麻精领域产品矩阵渐成形
卞和献玉、孙子膑脚的真相是什么?从甲骨到青铜,看商周刖刑演变_墓葬_甲骨文_西周
和讯投顾程佳:3350关键位置 市场的预期不要打的太高
房屋选择:选房需要逆向思维(一)
数据复盘|逾百家机构调研 这两股透露重要战略!
金·卡戴珊带女儿外出做SPA,越看她女儿的造型,越像“包租婆”?_西北_侃爷_外貌
JCtrans率先推出AI大模型产品“货代圈”,全面赋能国际物流行业高效交易

市值一夜暴涨近5000亿元!特斯拉第二季度交付超预期,低估值高增长概念股出炉

疯狂一周!全球股市暴涨暴跌!恐慌还是淡定?来看历史答案

民企“接班时代”来临,银行私人银行业务快速增长

中关村:一季度扣非净利润增长125% 麻精领域产品矩阵渐成形

卞和献玉、孙子膑脚的真相是什么?从甲骨到青铜,看商周刖刑演变_墓葬_甲骨文_西周

和讯投顾程佳:3350关键位置 市场的预期不要打的太高

房屋选择:选房需要逆向思维(一)

数据复盘|逾百家机构调研 这两股透露重要战略!

金·卡戴珊带女儿外出做SPA,越看她女儿的造型,越像“包租婆”?_西北_侃爷_外貌

