当前所在位置:首页 > 炒股配资平台网址

【微软发布三款顶级AI模型碾压GPT-4】 微软公司近日发布了 Ph

5455

2024-11-17 【 字体:

【微软发布三款顶级AI模型碾压GPT-4】

微软公司近日发布了 Phi-3.5 系列 AI 模型,其中最引人注目的是推出了首个混合专家模型(MoE)版本 Phi-3.5-MoE。该系列还包含 Phi-3.5-vision 和 Phi-3.5-mini 两款轻量级 AI 模型。

首先,我们来看 Phi-3.5-MoE 这个混合专家模型。它使用了16个3.8亿参数的专家和2个专门激活了66亿个参数的组件,并且使用了512个H100进行训练。微软研究团队从零开始设计这个模型以进一步提高其性能。在标准人工智能基准测试中,它的性能超过了Llama-3.1 8B、Gemma-2-9B和Gemini-1.5-Flash,甚至接近目前领先者 GPT-4omini。

其次,我们来看 Phi-3.5-vision 这个增强型多帧图像理解模型。它拥有42亿参数,在256个A100 GPU上进行了500B标记下的训练,并且现在支持多帧图像理解和推理。与之前发布的MMBench相比,它在文档理解基准TextVQA上的性能提高了70.9%。

最后,我们来看 Phi-3.5-mini 这个轻量级、强功能模型。它拥有38亿参数,超过了Llama3.1 8B和Mistral 7B,甚至可以媲美 Mistral NeMo 12B。这个模型仅使用了512个H100进行训练,并且在多语言任务中具有很强的竞争力。

此外,值得一提的是, Phi -3 . 5 -mini 现在支持128K上下文窗口,而其主要竞争对手 Gemma -2 系列仅支持8K。

总结起来,在本次发布的产品中,微软展示出了其强大的AI技术实力,并且这些产品将有望应用于多个领域。

阅读全文
相关推荐

卞和献玉、孙子膑脚的真相是什么?从甲骨到青铜,看商周刖刑演变_墓葬_甲骨文_西周

卞和献玉、孙子膑脚的真相是什么?从甲骨到青铜,看商周刖刑演变_墓葬_甲骨文_西周
导言:和氏璧故事中的卞和究竟被砍了那只脚?太史公所言的“孙子膑脚”又是怎么回事?...

和讯投顾程佳:3350关键位置 市场的预期不要打的太高

和讯投顾程佳:3350关键位置 市场的预期不要打的太高
和讯投顾程佳表示,今天市场会有一个反弹,在这个反弹过程当中整个量能是不足的,但这...

房屋选择:选房需要逆向思维(一)

房屋选择:选房需要逆向思维(一)
今天这篇文章,咱写一写选房的有关问题。 俗话说,授人以鱼,不如授人以渔。 很多人...

数据复盘|逾百家机构调研 这两股透露重要战略!

数据复盘|逾百家机构调研 这两股透露重要战略!
两股获逾百家机构扎堆调研  近两日(3月4日至3月5日)共有76家公司公告机构调...

金·卡戴珊带女儿外出做SPA,越看她女儿的造型,越像“包租婆”?_西北_侃爷_外貌

金·卡戴珊带女儿外出做SPA,越看她女儿的造型,越像“包租婆”?_西北_侃爷_外貌
最近,欧美的“网红鼻祖”金·卡戴珊在享受保养之余,带着她11岁的女儿小西北一同到...

德商银行:预计欧元区整体通胀维持22% 或使降息预期面临疑问

德商银行:预计欧元区整体通胀维持22% 或使降息预期面临疑问
  5月1日公共假日过后,欧洲交易员重返市场,欧元区债券收益率走高。市场因担忧欧...

巴菲特的新科技投资风向标

巴菲特的新科技投资风向标
  多年前,有投资者质疑巴菲特的价值投资,说他固步自封,不青睐科技股,结果巴菲特...

特朗普称或给很多国家提供关税优惠但需“对等”

特朗普称或给很多国家提供关税优惠但需“对等”
  美国总统特朗普24日在白宫说,随着4月2日“对等关税”生效日临近,他可能会给...

交易真相,交易系统总"复盘牛逼,一做就错"?

交易真相,交易系统总"复盘牛逼,一做就错"?
图片你是不是对自己的系统进行过复盘?复盘就很牛逼,但未来一做就错?我在3年前,有...

《封神三部曲》等背后插画师齐聚,插画艺术节掀国风热潮

《封神三部曲》等背后插画师齐聚,插画艺术节掀国风热潮
梦境般的画面、神秘玄幻的场景、超现实主义风格的场域……走进上海国家会展中心260...