PANews 3月18日消息，馬斯克的人工智慧公司xAI宣布開放其3140億參數混合專家模型Grok-1的權重和架構。 Grok-1是一個從頭開始由xAI訓練的大型語言模型，採用混合專家模型架構，其中25%的權重在給定令牌上處於活躍狀態。該模型的基本模型權重和網路架構現已根據Apache 2.0授權開放。 Grok-1的預訓練階段已於2023年10月結束，目前發布的是原始基礎模型檢查點，未針對任何特定應用進行微調。有興趣使用該模型的使用者可以按照github.com/xai-org/grok上的指南操作。
馬斯克的AI公司xAI正式公開Grok-1原始碼
分享至：
關注PANews官方賬號，一起穿越牛熊
推薦閱讀
PA一线2025-04-02 09:02PA一线2025-01-15 05:16PA一线2025-01-13 07:30PA一线2025-01-13 02:24PA一线2024-03-19 00:50
0xGreythorn2024-03-19 00:00
43億美元天價和解案：CZ時代落幕，幣安向合規更進一步
北京時間11月22日凌晨，司法部召開記者會宣布幣安和解，幣安同意刑事指控，支付43億美元罰款。 CZ辭職，Richard Teng將接任幣安CEO。
以週期為友：2023複盤與2024展望
經過起伏的2023，加密產業終於要迎來特殊的年份—2024，這將發生比特幣的第四次減半。
超越數位黃金：BRC-20與銘文，開啟比特幣嶄新篇章
老樹開新花，比特幣生態正成為全場焦點。 Ordinals、BRC-20、ORC-20......新名詞層出不窮，如何探索這片剛開荒的「聖地」？ PANews已上線「老樹開新花：從0到1，比特幣生態全解」專題，為你解讀比特幣的「新時代」。
比特幣現貨ETF：老錢通道一旦打開，牛市狂歡隨之而來？
傳統金融機構爭相申請比特幣現貨ETF，華爾街要大舉入場了？
新項目精選：捕捉Web3新敘事
Web3迎來大發展時代，新項目不斷湧現。該專題對這些新項目進行收集、整理、篩選，希望讀者從中捕捉到新敘事。
交易所Poloniex遭駭客攻擊
加密貨幣交易所Poloniex錢包的加密貨幣被盜，PANews持續追蹤進展。