知识
当前位置:首页 >> 知识 >> 文章正文

小型言语模型 :AI局限的新抢手

发布时间:2026-08-06 15:02:57点击:54

科技日报记者 刘霞

多年来 ,小型谷歌等科技巨擘和OpenAI等草创公司,言语不时在尽心戮力地独霸海量在线数据 ,模型打造更除夜、局限更昂贵的抢手人工智能(AI)模型 。这些除夜型言语模型(LLM)被普及独霸于ChatGPT等聊天机械人中,小型辅佐用户措置各类各式的言语义务 ,从编写代码、模型筹算行程 ,局限到创作诗歌等  。抢手

自ChatGPT面世以来,小型AI模型便在变除夜、言语变强之路上“疾走”。模型但鼓噪事前,局限科技公司也愈来愈存眷更小  、抢手更精简的小型言语模型(SLM) 。他们认为,这些玲珑玲珑的模型不单“术业有专攻”,并且放置成本更昂贵 、更节能 。

将来,这些局限不一的AI模型将协同工作,成为人类的左膀右臂。

小型模型独具优势

跟着AI技能行进神速 ,AI模型的“块头”穷年累月。ChatGPT的创作创作创造者OpenAI旧年夸耀称,其GPT-4模型具有约2万亿个参数。参数展示AI模型的大年夜小,一样往常参数越多  ,AI模型的身手越强,重除夜的参数量使GPT-4成为迄今最壮除夜的AI模型之一 ,能答复从天体物理学到植物学等多局限搜聚万象的问题 。

可是,假定某家公司只想借助AI模型措置特定局限(如医学)的问题  ,或一家告白公司只需一款AI模型来分化消费者行动 ,以便他们更精准地推送告白,GPT-4这类模型就有点“除夜材小用”了,SLM反而更能知足用户们的请求 。

美国《福布斯》双周刊网站在11月的报导中 ,将SLM称为AI局限的“下一个除夜义务”  。

微软公司生成式AI副总裁塞巴斯蒂安·布贝克展示 ,当然SLM的参数量如今并没有不合标准 ,但除夜约在3亿到40亿个之间  ,玲珑到可以拆卸在智好手机上。

专祖撒播宣传,SLM更胜任复杂的义务,如总结和索引文档 、搜刮内部数据库等。

法国草创公司LightOn的担当人劳伦特·都德认为 ,与LLM比照,SLM具有诸多优势:起首 ,这些模型的回响速度更快,能同时照顾更多查询 ,答复更多用户;其次 ,SLM放置成本更低 ,动力破钞也更少 。

都德诠释道 ,如今良多LLM需求除夜量处事器来举办操练 ,然后措置查询。这些处事器由尖端芯片构成 ,需求除夜量电力来运转  ,并举办冷却。而操练SLM所需芯片更少,运转破钞的动力也更少 ,这使其更便宜 、更节能 。

SLM还可直接拆卸在设备上  ,在不依托数据中心的气候下运转 ,这能进一步确保数据的安然性  。《福布斯》展示,SLM能以起码的筹算成本奉行各类义务 ,使其成为挪动设备、边沿设备等的志向选择。

AI模型掀起“极简风”

谷歌 、微软、元宇宙平台公司和OpenAI等公司闻风远扬 ,推出了各类SLM。

旧年12月底 ,微软公司正式宣布了只需27亿个参数的言语模型Phi-2 。微软研究院在其X平台官方账号上展示,Phi-2的功用优于现有其他SLM,且能在笔记本电脑或挪动设备上运转 。本年4月 ,微软又推出了只需38亿个参数的Phi-3系列模型  。

本年8月 ,微软公司果断不移,推出了最新的Phi-3.5-mini-instruct 。这款SLM为高效 、进步先辈的天然言语措置义务量身打造。9月 ,英伟达公司开源了Nemotron-Mini-4B-Instruct。该公司展示  ,这款SLM出格契合边沿筹算和设备端的独霸。报导称 ,这两款SLM在筹算成本独霸和下场默示之间完成了出色均衡。在某些方面 ,其功用甚至可媲美LLM。

OpenAI也不甘逞强。本年7月,OpenAI 公司宣布了GPT-4o mini ,称其是该公司最智能和最实惠的SLM 。

此外,亚马逊公司也准予在其云平台上独霸各类局限的AI模型 。

此外,其他公司也纷纷斥地更契合本身需求的SLM。比如,美国制药巨擘默克公司正与波士顿征询集团(BCG)合作斥地一款SLM ,旨在根究某些疾病对基因的影响。这将是一款参数介于几亿到几十亿之间的AI模型 。

大年夜小模型感染互补

当然SLM在屈就等方面具有稀少优势,但LLM在措置宏壮问题、供给更普及的数据访谒方面还是具有极除夜优势 。

展看将来,LLM和SLM两种模型将“是同伙而非敌手”,它们之间的协作交换将成为主流趋势。

当碰着用户提出的某个问题时 ,一款SLM会“身先士卒” ,邃晓这个问题 ,再屈就问题标宏壮性,将相干信息发送给几个大年夜小不一的AI模型。这些模型“齐心合力”“并肩连袂”为用户措置艰苦。

如今市道上的AI模型要么太除夜、太贵,要么措置速度太慢。二者合作 ,或是最好措置筹划 。

相关装修文章Related Articles

热门阅读文章

最新装修文章