当前所在位置:首页 > 炒股配资平台网址

【微软发布三款顶级AI模型碾压GPT-4】 微软公司近日发布了 Ph

5455

2024-11-17 【 字体:

【微软发布三款顶级AI模型碾压GPT-4】

微软公司近日发布了 Phi-3.5 系列 AI 模型,其中最引人注目的是推出了首个混合专家模型(MoE)版本 Phi-3.5-MoE。该系列还包含 Phi-3.5-vision 和 Phi-3.5-mini 两款轻量级 AI 模型。

首先,我们来看 Phi-3.5-MoE 这个混合专家模型。它使用了16个3.8亿参数的专家和2个专门激活了66亿个参数的组件,并且使用了512个H100进行训练。微软研究团队从零开始设计这个模型以进一步提高其性能。在标准人工智能基准测试中,它的性能超过了Llama-3.1 8B、Gemma-2-9B和Gemini-1.5-Flash,甚至接近目前领先者 GPT-4omini。

其次,我们来看 Phi-3.5-vision 这个增强型多帧图像理解模型。它拥有42亿参数,在256个A100 GPU上进行了500B标记下的训练,并且现在支持多帧图像理解和推理。与之前发布的MMBench相比,它在文档理解基准TextVQA上的性能提高了70.9%。

最后,我们来看 Phi-3.5-mini 这个轻量级、强功能模型。它拥有38亿参数,超过了Llama3.1 8B和Mistral 7B,甚至可以媲美 Mistral NeMo 12B。这个模型仅使用了512个H100进行训练,并且在多语言任务中具有很强的竞争力。

此外,值得一提的是, Phi -3 . 5 -mini 现在支持128K上下文窗口,而其主要竞争对手 Gemma -2 系列仅支持8K。

总结起来,在本次发布的产品中,微软展示出了其强大的AI技术实力,并且这些产品将有望应用于多个领域。

阅读全文
相关推荐

从螺蛳粉到电动车,柳州如何成为新能源车渗透率第一城?

从螺蛳粉到电动车,柳州如何成为新能源车渗透率第一城?
从北京到柳州,一天只有一班飞机;从上海到柳州,一天只有两班飞机;而从广州到柳州,...

刘贵祥专委《关于新公司法适用中的若干问题》中关于新公司法下股东出资责任与董事赔偿责任的裁判观点(适用解释)总结——观点总结之三

刘贵祥专委《关于新公司法适用中的若干问题》中关于新公司法下股东出资责任与董事赔偿责任的裁判观点(适用解释)总结——观点总结之三
图片以下为文字版:一、股东之间的出资责任关系问题刘贵祥专委意见1.认缴出资加速到...

2025年5月5日全国主要批发市场白鳝鱼价格行情

2025年5月5日全国主要批发市场白鳝鱼价格行情
市场 最高价 最低价...

特朗普拟对海外制作的电影征收100%的关税

特朗普拟对海外制作的电影征收100%的关税
美国总统特朗普在社交媒体平台表示,授权商务部和美国贸易代表立即启动程序,对所有在...

“15分钟响应”为城市信用建设按下快进键

“15分钟响应”为城市信用建设按下快进键
据4月18日《工人日报》报道,河南洛阳在龙门古街、洛邑古城等文旅地标试点“消费投...

亿纬锂能获得实用新型专利授权:“电池包及车辆”

亿纬锂能获得实用新型专利授权:“电池包及车辆”
本站消息,根据天眼查APP数据显示亿纬锂能(300014)新获得一项实用新型专利...

亚太股市遭遇“黑色星期一”!日经225指数暴跌近6% 日债触发熔断机制!

亚太股市遭遇“黑色星期一”!日经225指数暴跌近6% 日债触发熔断机制!
  8月5日早盘,亚太股市遭遇“黑色星期一”。日韩股市大幅低开,日本东证指数向下...

股票杠杆哪里可以做?

股票杠杆哪里可以做?
股票杠杆哪里可以做?元描述: 想了解股票杠杆交易?本文深入探讨国内外股票杠杆交...

期货配资门户:玩转期货市场,风险与机遇并存!

期货配资门户:玩转期货市场,风险与机遇并存!
期货配资门户:玩转期货市场,风险与机遇并存!元描述: 深入了解期货配...

北京正规的股票配资公司:高杠杆下的稳健投资之路?

北京正规的股票配资公司:高杠杆下的稳健投资之路?
北京正规的股票配资公司:高杠杆下的稳健投资之路?元描述: 北京正规的...