xAI宣布開(kāi)源大語(yǔ)言模型Grok-1并開(kāi)放下載

• 3月18日消息，美國(guó)當(dāng)?shù)貢r(shí)間周日，埃隆·馬斯克（Elon Musk）旗下的人工智能初創(chuàng)企業(yè)xAI宣布，其大語(yǔ)言模型Grok-1已實(shí)現(xiàn)開(kāi)源，并向公眾開(kāi)放下載。感興趣的用戶(hù)可通過(guò)訪(fǎng)問(wèn)GitHub頁(yè)面github.com/xai-org/grok來(lái)使用該模型。xAI介紹稱(chēng)，Grok-1是一款基于混合專(zhuān)家系統(tǒng)（Mixture-of-Experts，MoE）技術(shù)構(gòu)建的大語(yǔ)言模型，擁有3140億參數(shù)。近期，公司發(fā)布了Grok-1的基本模型權(quán)重和網(wǎng)絡(luò)架構(gòu)詳情。該公司表示，Grok-1始終由xAI自行訓(xùn)練，其預(yù)訓(xùn)練階段于
• 關(guān)鍵字： xAI  開(kāi)源大語(yǔ)言模型  Grok-1