← 一覧へ戻る

Web / ブラウザAI

ChromeのBuilt-in AI「Prompt API」とは何か

要点

  • ローカルAI実行: ユーザーのデバイス上に搭載された軽量LLM(Gemini Nano等)をブラウザ側で直接動かす標準Web APIです。
  • 4つの強み: サーバー通信を挟まないため、「超低遅延」「強固なプライバシー」「オフライン対応」「ゼロトークン料金(無料)」を実現します。
  • 標準化プロセス: WebML CG(Web Machine Learning Community Group)にて標準化が進んでおり、JavaScriptから ai.languageModel などのインターフェースを通じて呼び出せます。

従来型とBuilt-in AI(Prompt API)の構成比較

従来の生成AI対応Webアプリでは、開発者がサーバーサイドにAPIキーを置き、ブラウザからの要求をクラウド上の巨大LLMに中継していました。これに対し、Prompt API(Built-in AI)ではブラウザ自体がLLMを内蔵し、ユーザーのローカルマシン上で直接処理を行います。

従来のクラウド型構成 Webブラウザ API通信 (有料) 開発者サーバー クラウドLLM Gemini 1.5 Pro / GPT-4 等 ● ネットワーク遅延が発生する ● トークン数に応じた従量課金コスト ● 機密データを外部(クラウド)に送信する必要がある Built-in AI (Prompt API) 構成 ローカルブラウザ (Chrome等) Webアプリ JavaScript実行 ローカルAPI Gemini Nano ローカル実行モデル ✔ 通信なし:超低遅延&オフライン動作 ✔ コストなし:無償でLLM推論が可能 ✔ プライバシー:個人情報や社外秘データも漏洩しない
ローカルブラウザ内でモデルを実行するため、通信とコストを完全にカットできます。

メリットとデメリット(制約事項)

ブラウザローカルで動作する Prompt API は革新的ですが、万能ではありません。採用にあたっては、その特性を正しく理解し、適材適所で使い分ける必要があります。

4つのメリット

超低遅延: ネットワーク通信が発生しないため、ミリ秒単位で応答を開始できます。

コストゼロ: ユーザーデバイスの資源を利用するため、開発者のクラウドAPI利用料は不要です。

プライバシーとオフライン

データ保護: 全データが端末から出ないため、機密情報を安全に処理できます。

完全オフライン: 山奥や飛行機内など、ネット接続がない環境でも動作します。

主なデメリット・課題

推論能力の限界: 数十億パラメータ規模のGemini Nanoを使用するため、クラウドの超巨大LLMと比べて複雑な推論は苦手です。

モデル準備: 初回起動時に数GBのモデルの自動ダウンロードが発生します。

JavaScriptでの基本的な使い方

WICGで定義されている LanguageModel (旧 ai.assistant) インターフェースを使用します。まずはブラウザが利用可能かチェックし、セッションを生成してプロンプトを送るという流れになります。

1. 基本的なテキスト生成の例

// 1. 利用可能かチェック
const capabilities = await ai.languageModel.capabilities();
if (capabilities.available === 'no') {
  console.log("Built-in AIは利用できません");
  return;
}

// 2. セッションを作成する(システムプロンプトや温度も指定可能)
const session = await ai.languageModel.create({
  systemPrompt: "あなたは優秀なエンジニアリングアシスタントです。",
  temperature: 0.7
});

// 3. プロンプトを投げて回答を取得
const result = await session.prompt("Prompt APIについて1文で説明して");
console.log(result); // 「Prompt APIは、ブラウザ側でAIを実行する標準APIです...」

// 4. 不要になったらセッションを破棄
session.destroy();

2. ストリーミング応答の例

応答を少しずつレンダリングしたい場合は、非同期イテレータを返す promptStreaming を使用します。これにより、待ち時間をさらに削減できます。

const stream = session.promptStreaming("量子コンピュータの仕組みを初心者向けに解説して");

for await (const chunk of stream) {
  // 生成されたテキストが逐次追加された文字列として渡される
  document.getElementById("output").textContent = chunk;
}

試すためのChrome設定方法

2026年現在、一部のブラウザバージョンではデフォルトで有効化されていますが、開発者が実験的に動作させるには以下の設定が必要な場合があります。

動作手順:

  1. ChromeのURLバーに chrome://flags と入力する
  2. Enables optimization guide on device を検索し、Enabled に設定する
  3. Prompt API for Gemini Nano(または Enables Prompt API)を検索し、Enabled に設定する
  4. Chromeを再起動する
  5. chrome://components にアクセスし、Optimization Guide On Device Model の「アップデートを確認」をクリックし、モデル(Gemini Nano)のダウンロードを完了させる(1〜2GB程度あり、ダウンロードが完了するまでAPIのステータスは after-download などになります)

まとめ

Prompt APIは、従来クラウドで行っていたAI推論の「ローカル化」を促進し、Webアプリケーションの設計を大きく変える可能性を秘めています。高度な推論にはクラウドモデル(Gemini 1.5 Pro等)を使い、スマートなUI装飾や文章校正、オフラインサポートなどにはローカルのPrompt APIを使うといった、ハイブリッド構成がこれからの標準になるでしょう。

参考URL