Grok-1参数量最大的开源模型

Grok-1是马斯克旗下AI创企xAI发布的一款开源AI大模型。它是一个混合专家（Mixture-of-Experts，MOE）大模型，其参数量达到了3140亿，远超OpenAI GPT-3.5的1750亿，是迄今参数量最大的开源大语言模型。旨在用作聊天机器人背后的引擎，用于包括问答、信息检索、创意写作和编码辅助在内的自然语言处理任务。