谷歌Gemma 3 270M：超高效緊湊型 AI 模型

最近谷歌為 Gemma 系列開新 branch，推出咗 Gemma 3 270M 呢個超細超掂嘅 AI 模型，只有 2.7 億參數咋！呢個模型由頭到尾專門設計嚟做任務特定微調，本身已經訓練好強嘅指令跟隨同文字結構化能力，唔使再由零開始。

佢架構好緊湊，總參數 2.7 億，其中 1.7 億係嵌入參數，因為詞彙量高達 256k，可以輕鬆處理特定領域同罕有詞語，適合喺唔同語言同專業範疇再微調。

最正係超慳電！內部測試喺 Pixel 9 Pro SoC 上，用 INT4 量化版，25 次對話只耗 0.75% 電池，係 Gemma 系列最慳電嘅一款。

雖然唔係專門做複雜聊天，但指令調教版一裝即用，跟隨一般指令表現好勁，喺 IFEval 基準測試創咗同級新高。

呢個模型最適合高量特定任務，例如情感分析、實體抽取、查詢路由、非結構化轉結構化文字等。微調後可以喺輕量設備或者直接喺手機上跑，慳成本、回應快，又完全喺設備端處理，私隱有保障，唔使上雲端。

開發者微調超快，幾個鐘頭就試晒唔同配置，部署好容易。

閱讀原文