← 一覧へ戻る

AI / デバイスLLM

デバイス上で動く軽量LLM「Gemini Nano」とは何か

要点

  • オンデバイス専用モデル: クラウドにデータを送信せず、スマートフォンやPCなどユーザー端末のローカル上で動作する、Googleの最も効率的な軽量LLMです。
  • 4-bit量子化によるメモリ削減: パラメータ数は 1.8B(Nano-1)および 3.25B(Nano-2)の2つの構成があり、4-bit量子化によって少ないメモリ容量(RAM)でも快適に動くよう設計されています。
  • 1.5 Nanoによるマルチモーダル対応: Pixel 9シリーズなどに搭載される「Gemini 1.5 Nano」からは、テキストだけでなく、画像や音声、話し言葉といったマルチモーダルな情報をローカル環境で直接処理できるよう進化しました。
  • OSとブラウザへの統合: Android OS上のシステムサービス「AICore」や、Google Chromeブラウザの「Built-in AI」を介して提供され、アプリ開発者はSDKや標準JavaScript APIから簡単に呼び出せます。

Gemini Nano の実行プラットフォーム構造(Android vs Chrome)

Gemini Nanoは、スタンドアロンのアプリとして動くのではなく、プラットフォーム(OSやブラウザ)が共通サービスとして管理・実行する仕組みをとっています。これにより、複数のアプリが同一のローカルモデルを共有し、端末内のディスクスペースやメモリ消費を大幅に節約できます。

Android (AICore) 構成 Androidアプリ (Google AI Edge SDK 等) AICore (Android システムサービス) Private Compute Core (PCC) 準拠(データ保護) モデル管理・安全性フィルタリング Gemini Nano (1.0 / 1.5) Tensor G3 / G4 NPU で高速化実行 Google Chrome 構成 Webアプリ (JavaScript) Chrome Browser (Prompt API 等) ai.languageModel などの標準Web API Optimization Guide を通じた自動モデル配布 Gemini Nano (2B〜4B) ローカル GPU / CPU での推論実行
AndroidではOS組み込みの「AICore」がモデルを管理し、Chromeブラウザ上ではブラウザ自身がモデルライフサイクルと実行を制御します。

Gemini Nano の技術的特徴

Gemini Nanoは、クラウドで動く「Gemini Pro」や「Gemini Ultra」などの超大規模モデルから知識を凝縮する(蒸留:Knowledge Distillation)手法を用いて構築されています。小さな筐体でも高度な判断能力を持つため、いくつかの工夫が施されています。

パラメータ数と展開

1.8B (Nano-1)3.25B (Nano-2) の2つのサイズがあり、実行環境(主に利用可能なRAM容量)に応じて出し分けられます。Pixel 9シリーズでは3.25BのGemini Nano v2が標準採用されています。

4-bit量子化 (INT4)

モデルのパラメータ(重み情報)を4ビットの整数値に圧縮。これにより、モデル全体のサイズを1〜2GB程度まで軽量化し、起動に必要なメモリ容量と推論エネルギーを最小限に抑えています。

NPU/TPUへの最適化

Google Tensorや各社SoCのNPU(Neural Processing Unit)の命令セットに合わせてコンパイルされており、CPUや一般的なメモリだけで実行するよりはるかに高速かつ省電力で動作します。

Gemini 1.0 Nano から 1.5 Nano への進化

Pixel 8シリーズでのGemini 1.0 Nanoの採用から、Pixel 9シリーズのGemini 1.5 Nanoへの移行により、オンデバイスAIの実用性は爆発的に向上しました。

主な進化ポイント:

  • マルチモーダルの完全対応: テキストのみしか理解できなかった1.0に対し、1.5 Nanoでは画像、音声、話し言葉といった複数の入力を一度に、しかもデバイス内のみで分析可能になりました。
  • コンテキストウィンドウの拡張: より長い文脈や複数のドキュメントをオンデバイスで一括して読み込めるようになり、要約や情報抽出の精度が大きく向上しました。
  • Pixelの独自AI機能との統合:
    • 「Pixel Screenshots」でのスクリーンショット画像内の自動分類・テキスト検索。
    • 「Call Notes」での通話音声の要約。
    • 「Recorder (ボイスレコーダー)」での高精度な文字起こしおよび段落ごとの要約生成。

開発者がGemini Nanoを活用する方法

開発者がこのオンデバイスAIを活用する方法は、主に以下の2種類に大別されます。

1. Webアプリケーション(Google Chrome)

Chromeの「Built-in AI(Prompt API)」などの実験的Web APIを使用します。ユーザーが手動でモデルを準備する必要がなく、以下のような短いJavaScriptコードで利用可能です。

// 言語モデルのセッションを作成して実行
const session = await ai.languageModel.create();
const reply = await session.prompt("Gemini Nanoの利点を簡潔に教えてください。");
console.log(reply);

※詳細な手順やコードの書き方は、姉妹記事の ChromeのBuilt-in AI「Prompt API」とは何か を参照してください。

2. ネイティブAndroidアプリ

Googleが提供する Google AI Edge SDK(旧 Google AI Client SDK)または ML Kit GenAI APIs を利用します。Android OSの「AICore」に処理をオフロードすることで、自前で数GBものモデルファイルをアプリパッケージ(APK)に同梱する必要がなくなり、容量制限をクリアできます。

また、AICoreはAndroidの「Private Compute Core(PCC)」の一部として動作するため、処理データは完全に暗号化されて他のアプリケーションやクラウドから隔離され、強固なプライバシーが担保されます。

まとめ

Gemini Nanoは、「全ての処理をクラウドで実行する」というこれまでの生成AIトレンドから一歩踏み出し、プライバシー保護、オフライン対応、そして運用コストの撤廃という決定的な価値を開発者とユーザーに提供します。

高度な推論を求める用途にはクラウドの「Gemini 1.5 Pro / Flash」を呼び出し、日常的かつ低遅延、高プライバシーが求められるテキスト校正やローカル要約には「Gemini Nano」を活用するというハイブリッド設計(Cloud-Device Hybrid AI)が、今後のアプリケーション開発におけるベストプラクティスとなっていくでしょう。

参考URL