您现在的位置是:综合 >>正文
大模型让让,小模型登场丨科创要闻
综合653人已围观
简介4月23日,微软推出小语言模型SLM)Phi-3系列,有Phi-3-mini、Phi-3-small、Phi-3-medium三个版本,在评估语言、编程、数学能力等的基准测试中,Phi-3系列模型表现 ...

4 月 23 日,大模登场微软推出小语言模型(SLM)Phi-3系列,型让有Phi-3-mini、模型Phi-3-small、丨科Phi-3-medium三个版本,创闻在评估语言、大模登场编程、型让数学能力等的模型基准测试中,Phi-3系列模型表现优于同等规模甚至更大规模模型(如GPT-3,丨科5)。微软称其是创闻目前同类中最强大且最具成本效益的小型语言模型。
Phi-3模型的大模登场“小体积”,让手机上运行高能力的型让语言模型成为可能。如Phi-3-mini只占用手机18GB内存,模型如在iPhone 14上部署,丨科苹果的创闻A16仿生芯片在设备上脱机运行,可以实现每秒超过12个token。
自2022年12月ChatGPT爆火之后,科技公司们一头扎进了大型模型的竞争,2023年接连刷新模型参数,2024年开始“内卷”长文本。大家似乎默认数据越多、参数越大、算力越强,模型的能力越强。
但是,高昂的运行成本、具体场景模型调试难度等问题,让大模型商业化的路径慢下来。此时小模型的优势就体现出来了。
小模型,目前某些领域也能接近大模型的性能。特别是在各手机和PC厂商正在力推的AIPC、AI手机上,对设备计算能力、运行能力、储存能力要求较低,能在地化运行的小模型,的确是不错的选择。
其实早在2023年6月份,微软就发布了第一代Phi模型,Phi-3系列已经是其第四代产品。近期,苹果公司也凑了小模型的热闹。
2024年4月24日,在大模型上没有什么动静的苹果公司,发布开源小语言模型OpenELM,包括
Tags:
相关文章
2018年8月16日中国玻璃综合指数,行业资讯
综合2018年8月16日中国玻璃综合指数1164.23点,环比上涨2.94点;中国玻璃售价趋势1193.47点,环比上涨2.85点;中国玻璃信心指数1047.28点,环比上涨3.29点。今天玻璃现货行业总 ...
【综合】
阅读更多最高分最高助攻并非KD库里 追梦汤神连线最给力
综合最高分最高助攻并非KD库里 追梦汤神连线最给力发布时间:2018-01-09 05:30 来源:豫都网 我要投稿[摘要]数据 投篮点 实录 前不久,人们还在质疑克莱-汤普森本赛季的糟糕手感和低迷状态, ...
【综合】
阅读更多2016年大部分国家光伏发电量将达2.95亿千瓦,行业资讯
综合研究和咨询公司大部分国家数据预测,大部分国家太阳能光伏市场装机量将从2015年的2.25亿千瓦增长至2016年的2.9469亿千瓦,中国将仍是大部分国家年度太阳能光伏装机量的非常大市场。该公司较新的报 ...
【综合】
阅读更多