微软推出轻量级AI模型Phi
微软研究院日前推出了轻量级人工智能模型 Microsoft Phi 的微软第三个迭代版本,新版本也就是推出 Phi-3 分成 3.8B、7B 和 14B 参数版本,轻量名称分别是微软 Mini、Small 和 Medium。推出
与其他人工智能模型不同的轻量是,Phi 系列模型的微软侧重点是轻量级,其使用的推出资源要比同等规模的人工智能模型少得多,因此可以在智能手机等设备上本地运行。轻量
根据微软自己的微软基准测试,仅有 3.8B 参数的推出 Phi-3 Mini 版在性能上表现优于 Meta 8B 参数的 Llama 和 OPENAI 3.5B 参数的 GPT-3。

微软研究院在论文中表示:
我们引入了 phi-3-mini,轻量这是微软一个在 3.3 万亿个 tokens 上训练的 3.8B 参数人工智能模型,从学术基准和内部测试来看,推出其整体性能可与 Mixtral 8x7B 和 OPENAI GPT-3.5 等模型媲美。轻量
例如 phi-3-mini 在 MMLU 测试中达到了 69%,在 MT-bench 上达到了 8.38,最重要的是这个模型足够小,可以直接部署在手机上。
我们还提供了一些针对 4.8 万亿个 tokens 训练的 7B 和 14B 模型的初始参数缩放结果,即 phi-3-small 和 phi-3-medium,这两个版本能力都要比 Mini 版更好。
其中 Small 版的 MMLU 为 75%、MT-bench 为 8.7;Medium 版 MMLU 为 78%、MT-bench 为 8.9。
微软对 Phi-3 系列模型进行了优化,在低功耗设备上例如智能手机和平板电脑上也可以运行,并且在实际使用过程中不会消耗太多的资源。
这意味着新模型能够直接在智能手机上进行高级自然语言处理而不需要实时联网进行计算,因此 Phi-3 Mini 等模型非常适合集成到一些需要人工智能参与的新颖应用中。
当然微软也强调 Phi-3 模型的训练数据集有限,它无法与互联网上训练的大规模 AI 模型的知识广度相匹配,但微软也指出较小的高质量模型往往表现更好。
论文地址:https://arxiv.org/abs/2404.14219
- ·《圣歌》游戏地图曝光 死亡机制跟吃鸡游戏类似
- ·FBI警告:谨慎子真游戏利用匪与减稀货币
- ·《守看前锋2》竞技比赛巨大年夜窜改 新删王者段位
- ·天津佳沃天下一日游攻略
- ·《绝地求生》新地图不按排名匹配 老地图无法自行选择
- ·新的系外行星信息研究为寻找无线电技术特征设定了更清晰的界限
- ·新《铁决斗苦兵士》电影建制中!定名为《劣天》
- ·新疆最好玩耍时候+消耗程度
- ·《钢铁收割》首个演示视频放出 游戏特色介绍
- ·哈佛大年夜教新研讨 膂力劳动更多的男性逝世养才气更强
- ·天文卫星观测到磁星SGR j 1830–0645的爆发活动
- ·2020好玩的远似暗乌天牢的单机足游保举 充谦了好式暗乌气势的rogue
- ·日本手游周收入排行榜:米哈游新作《绝区零》登顶
- ·2020好玩的挨砖块的弹球游戏保举 预判弹球轨迹挨碎更多砖块
- ·武汉那里开适情侣玩 五一武汉那里好玩
- ·2020好玩的回开制卡牌角色扮演足游保举 每个卡牌角色皆有感化
