当前所在位置:首页 > 炒股配资平台网址

【微软发布三款顶级AI模型碾压GPT-4】 微软公司近日发布了 Ph

5455

2024-11-17 【 字体:

【微软发布三款顶级AI模型碾压GPT-4】

微软公司近日发布了 Phi-3.5 系列 AI 模型,其中最引人注目的是推出了首个混合专家模型(MoE)版本 Phi-3.5-MoE。该系列还包含 Phi-3.5-vision 和 Phi-3.5-mini 两款轻量级 AI 模型。

首先,我们来看 Phi-3.5-MoE 这个混合专家模型。它使用了16个3.8亿参数的专家和2个专门激活了66亿个参数的组件,并且使用了512个H100进行训练。微软研究团队从零开始设计这个模型以进一步提高其性能。在标准人工智能基准测试中,它的性能超过了Llama-3.1 8B、Gemma-2-9B和Gemini-1.5-Flash,甚至接近目前领先者 GPT-4omini。

其次,我们来看 Phi-3.5-vision 这个增强型多帧图像理解模型。它拥有42亿参数,在256个A100 GPU上进行了500B标记下的训练,并且现在支持多帧图像理解和推理。与之前发布的MMBench相比,它在文档理解基准TextVQA上的性能提高了70.9%。

最后,我们来看 Phi-3.5-mini 这个轻量级、强功能模型。它拥有38亿参数,超过了Llama3.1 8B和Mistral 7B,甚至可以媲美 Mistral NeMo 12B。这个模型仅使用了512个H100进行训练,并且在多语言任务中具有很强的竞争力。

此外,值得一提的是, Phi -3 . 5 -mini 现在支持128K上下文窗口,而其主要竞争对手 Gemma -2 系列仅支持8K。

总结起来,在本次发布的产品中,微软展示出了其强大的AI技术实力,并且这些产品将有望应用于多个领域。

阅读全文
相关推荐

德商银行:预计欧元区整体通胀维持22% 或使降息预期面临疑问

德商银行:预计欧元区整体通胀维持22% 或使降息预期面临疑问
  5月1日公共假日过后,欧洲交易员重返市场,欧元区债券收益率走高。市场因担忧欧...

巴菲特的新科技投资风向标

巴菲特的新科技投资风向标
  多年前,有投资者质疑巴菲特的价值投资,说他固步自封,不青睐科技股,结果巴菲特...

特朗普称或给很多国家提供关税优惠但需“对等”

特朗普称或给很多国家提供关税优惠但需“对等”
  美国总统特朗普24日在白宫说,随着4月2日“对等关税”生效日临近,他可能会给...

交易真相,交易系统总"复盘牛逼,一做就错"?

交易真相,交易系统总"复盘牛逼,一做就错"?
图片你是不是对自己的系统进行过复盘?复盘就很牛逼,但未来一做就错?我在3年前,有...

《封神三部曲》等背后插画师齐聚,插画艺术节掀国风热潮

《封神三部曲》等背后插画师齐聚,插画艺术节掀国风热潮
梦境般的画面、神秘玄幻的场景、超现实主义风格的场域……走进上海国家会展中心260...

天创时尚一季度净现金流为112亿元同比增长14926%

天创时尚一季度净现金流为112亿元同比增长14926%
天创时尚一季报数据显示,2025年1-3月,公司净现金流为1.12亿元同比增长1...

金融圈浮躁,理应深耕

金融圈浮躁,理应深耕
马化腾昨日在人工智能领域发声,认为AI是几百年不遇的机遇,类似于电的发明。然而市...

聚焦智能制造助力高质量发展超越 智能制造分论坛举行

聚焦智能制造助力高质量发展超越 智能制造分论坛举行
经济日报-中国经济网福州10月13日讯(记者杨秀峰) 智能制造是新一代信息技术与...

4月2日基金净值:交银裕隆纯债债券A最新净值13927,涨008%

4月2日基金净值:交银裕隆纯债债券A最新净值13927,涨008%
证券之星消息,4月2日,交银裕隆纯债债券A最新单位净值为1.3927元,累计净值...

日本政府提出减排战略计划 降幅目标未能让外界满意

日本政府提出减排战略计划 降幅目标未能让外界满意
  本周,日本政府正式提出了“2035年较2013年减排60%、2040年减排7...