Llama 4系列初次采用了混合专家(MoE)架构的模型,这种架构在练习和答复用户查询时的效率更高,能够将模型划分为多个专心于特定使命的“专家”子模型。
据Meta介绍,Scout和Maverick不仅是其“迄今为止最先进的模型”,也是“多模态范畴中最先进的模型”。
据悉,Scout有170亿个生动参数、16个“专家”模型、1090亿个总参数;Maverick也有170亿个生动参数,但有128个“专家”模型,总参数量高达4000亿。
除了Scout和Maverick之外,Meta还在练习功用更加强壮的Behemoth,称其为世界上最智能的大模型之一,是“新模型中的教师”。
所有这些模型都经过了 “很多未标示的文本、图画和视频数据” 的练习,以使它们具有 “广泛的视觉了解才干”。
Scout 和Maverick模型在Llama.com网站以及Meta的合作伙伴处均可公开获取,也能够在WhatsApp、Messenger、Instagram Direct上获取。
Meta标明,其人工智能助手Meta AI已在40个国家更新为运用Llama 4模型。目前,多模态功用仅在美国以英语提供。
该公司首席执行官扎克伯格周六宣告说话称:“咱们的方针是建立世界抢先的人工智能,将其开源,并使其普遍可用,以便世界上每个人都能获益。”
“我很久以前就说过,我认为开源人工智能将成为抢先的模型,而随着Llama 4的推出,这一切现已初步发生。”他说,“Meta AI今日得到了一次严峻升级。”
Meta首席产品官Chris Cox上个月标明,Llama 4的推出将让AI智能体变得更强壮,使其具有更高水平的推理和举动才干。
据知情人士泄漏,Llama 3现已推出一年了,而Llama4之所以迟迟未能发布,是因为在开发过程中,该模型在技术基准上没有抵达Meta的预期,尤其是在推理和数学使命方面。此外,Meta也忧虑其模型在模仿人类语音对话方面不如OpenAI的模型。
Meta计划本年斥资高达650亿美元扩大其人工智能基础设施,然而出资者正向大型科技公司施压,要求它们展示出资带来的实践报答。