当前所在位置:首页 > 炒股配资平台网址

【微软发布三款顶级AI模型碾压GPT-4】 微软公司近日发布了 Ph

5455

2024-11-17 【 字体:

【微软发布三款顶级AI模型碾压GPT-4】

微软公司近日发布了 Phi-3.5 系列 AI 模型,其中最引人注目的是推出了首个混合专家模型(MoE)版本 Phi-3.5-MoE。该系列还包含 Phi-3.5-vision 和 Phi-3.5-mini 两款轻量级 AI 模型。

首先,我们来看 Phi-3.5-MoE 这个混合专家模型。它使用了16个3.8亿参数的专家和2个专门激活了66亿个参数的组件,并且使用了512个H100进行训练。微软研究团队从零开始设计这个模型以进一步提高其性能。在标准人工智能基准测试中,它的性能超过了Llama-3.1 8B、Gemma-2-9B和Gemini-1.5-Flash,甚至接近目前领先者 GPT-4omini。

其次,我们来看 Phi-3.5-vision 这个增强型多帧图像理解模型。它拥有42亿参数,在256个A100 GPU上进行了500B标记下的训练,并且现在支持多帧图像理解和推理。与之前发布的MMBench相比,它在文档理解基准TextVQA上的性能提高了70.9%。

最后,我们来看 Phi-3.5-mini 这个轻量级、强功能模型。它拥有38亿参数,超过了Llama3.1 8B和Mistral 7B,甚至可以媲美 Mistral NeMo 12B。这个模型仅使用了512个H100进行训练,并且在多语言任务中具有很强的竞争力。

此外,值得一提的是, Phi -3 . 5 -mini 现在支持128K上下文窗口,而其主要竞争对手 Gemma -2 系列仅支持8K。

总结起来,在本次发布的产品中,微软展示出了其强大的AI技术实力,并且这些产品将有望应用于多个领域。

阅读全文
相关推荐

英镑经历惊险一夜!欧元、英镑、日元、澳元、加元、瑞郎最新交易策略

英镑经历惊险一夜!欧元、英镑、日元、澳元、加元、瑞郎最新交易策略
周四(11月22日),欧盟和英国已发表就脱欧后双方未来关系的宣言草案,英镑/美元...

原创孟良崮战役,此人可以救74整编师,为何没有做?说出来你可能不信_张灵甫_黄百韬_国军

原创孟良崮战役,此人可以救74整编师,为何没有做?说出来你可能不信_张灵甫_黄百韬_国军
孟良崮战役,此人可以救74整编师,为何没有做?说出来你可能不信如果要是问抗日战争...

澳元反弹收复06300:市场情绪改善还是假突破?

澳元反弹收复06300:市场情绪改善还是假突破?
汇通财经APP讯——周一(4月14日),澳元兑美元汇价延续上周涨势,进一步拉升至...

阳光财险“非车数据生命表”项目入选“2024保险业数字化转型优秀案例”

阳光财险“非车数据生命表”项目入选“2024保险业数字化转型优秀案例”
近日,由《中国银行保险报》主办的以“提高数智化水平 助力高质量发展”为主题202...

2025年4月22日今日美元走势分析

2025年4月22日今日美元走势分析
在 2025 年 4 月 22 日的外汇市场中,美元走势成为全球投资者关注的焦点...

250502 RESCENE 饭拍~_cr_logo

250502 RESCENE 饭拍~_cr_logo
250502 RESCENE 饭拍~ cr.logo发布于:江苏省

英镑美元技术分析:13460筑底 下一走向只待今晚!

英镑美元技术分析:13460筑底 下一走向只待今晚!
周二(5月15日)亚市午后,英镑/美元扭转盘初涨势转而下行,目前交投在1.354...

中央气象台5月4日18时继续发布气象干旱黄色预警

中央气象台5月4日18时继续发布气象干旱黄色预警
  每经AI快讯,中央气象台5月4日18时继续发布气象干旱黄色预警:  据实时气...

股市必读:华茂股份(000850)4月30日收盘跌693%,主力净流出10616万元

股市必读:华茂股份(000850)4月30日收盘跌693%,主力净流出10616万元
截至2025年4月30日收盘,华茂股份(000850)报收于3.76元,下跌6....

4月30日联诚转债上涨121%,转股溢价率1646%

4月30日联诚转债上涨121%,转股溢价率1646%
本站消息,4月30日联诚转债收盘上涨1.21%,报132.44元/张,成交额19...