OpenAI、音声APIの遅延を25%削減する「gpt-realtime-2.1」発表、推論対応の「mini」も追加
2026年7月9日 17:44
OpenAIは、音声対話用API「Realtime API」のアップデートとなる新モデル「gpt-realtime-2.1」および「gpt-realtime-2.1-mini」をリリースした。プロンプトキャッシュの改善により、プラットフォーム全体のp95遅延（最悪5%の応答時間）が少なくとも25%削減され、音声エージェントの応答性が大幅に向上した。これにより、従来の音声システムで課題となっていた不自然な「間」や、ツール呼び出し時の無言による接続切れの誤認が解消されると期待されている。
■プロンプトキャッシュの改善がもたらす効果
OpenAIの発表によると、今回のアップデートではプロンプトキャッシュの改善により、すべてのRealtime音声モデルにおいてp95遅延が少なくとも25%削減された。p95遅延とは、応答時間のうち最も遅い5%の数値を指し、音声システムの信頼性を左右する重要な指標である。既存のシステムを移行することなく、すべての既存の統合環境で応答速度が向上するという。
Realtime APIは、音声の入力処理と出力生成を単一のモデルで行う。これにより、音声認識、言語モデル処理、音声合成という3つのステップを個別に経る従来のパイプラインで発生していた遅延や、感情・トーンの喪失を防ぐ設計になっている。今回の改善はさらにその下のインフラ層に及び、会話のシステムプロンプトや履歴コンテキストをターンごとにキャッシュすることで、応答のたびに最初から再処理する無駄を省いている。
音声エージェントは、テキストインターフェース以上に遅延に対して敏感である。テキストであれば0.5秒の遅延は気にならないが、音声通話ではそのわずかな沈黙が「電話が切れたのではないか」という不安をユーザーに与える。外部企業Smallest.aiによる旧世代モデルのテストでは、実際のネットワーク環境下における中央値の遅延は、短い通話で約2秒、長時間のセッションでは3秒以上に達しており、OpenAIが理想的な条件下として提示する250〜500ミリ秒を大きく上回っていた。今回のキャッシュ改善がこのギャップを完全に埋められるかは実際のネットワーク環境に依存するが、プラットフォーム全体での遅延削減はすでに適用が始まっている。
■「話しながら推論する」Miniモデルの役割
今回のリリースでより実用的な意味を持つのが、新モデル「gpt-realtime-2.1-mini」の導入である。OpenAI Developer Communityによると、これはフルモデルから推論能力を引き継ぎつつ、音声出力コストを約3分の1に抑えた軽量な蒸留推論モデルである。
このモデルが解決するのは、音声エージェントが抱えていた「ツール呼び出し時の沈黙」という課題である。アカウント残高の確認や注文ステータスの照会など、外部機能を呼び出す際にシステムが一時的に無言になると、ユーザーは接続が切れたと勘違いして話しかけたり、通話を切断したりすることがあった。
gpt-realtime-2.1-miniは、バックグラウンドでツールを実行しながら、同時に「ただいま注文状況を確認しております」といった前置きの発話を生成する。これにより、沈黙を作らずにスムーズに結果へと移行できる。OpenAIはこの仕組みを「話しながら推論する（reasoning-while-talking）」と呼んでいる。モデルの推論ステップが音声出力とは独立して実行されるため、推論が完了する前に話し始めることが可能になったという。
フルモデルのgpt-realtime-2.1でも同様の機能が利用可能で、推論の深度（effort）を5段階（minimal、low、medium、high、xhigh）から設定できる。デフォルトは「low」に設定されている。推論深度を上げると出力の質は向上するが、発話前に生成される内部推論トークンが増えるため、消費トークン数も増加する。miniモデルは、最大性能よりも低コストでこの単一モデルアーキテクチャを採用したい開発者向けに設計されている。
■コスト比較と市場における位置づけ
OpenAIの発表によると、gpt-realtime-2.1の価格は100万オーディオ入力トークンあたり32ドル（約5,184円）、100万オーディオ出力トークンあたり64ドル（約10,368円）である。一方、miniモデルは入力が10ドル（約1,620円）、出力が20ドル（約3,240円）となっており、音声出力で約3.2倍、テキスト出力ではさらに大きな価格差で安価に利用できる（1ドル＝162円換算）。
この値下げは大幅なものであるが、OpenAIが音声エージェント市場における最安値になったわけではない。AssemblyAIなどの競合プラットフォームが提供する定額制音声エージェントが1時間あたり約4.50ドルで運用できるのに対し、Realtime APIを大規模に運用した場合のコストは1時間あたり約18ドルと試算されている。しかし、OpenAIの強みはコストではなく、感情を維持し、パイプラインのハンドオーバーを排除した単一の音声モデルというアーキテクチャにある。この体験をミドルウェアなしで実現できる競合は少ない。
企業がフルモデルとminiモデルのどちらを採用すべきかについて、OpenAIは、推論の深さや指示の正確性、複雑なツールの連携が求められる場合はgpt-realtime-2.1を、コスト効率が重視される大量かつ定型的な対話にはminiを推奨している。ただし、miniは価格と引き換えに推論の深さを一部犠牲にしているため、単純な置き換えとして導入する前に、実際の通話環境での検証が必要である。
■フルモデルにおける信頼性の向上
フルモデルであるgpt-realtime-2.1では、開発者から指摘されていたいくつかの重大な不具合が修正された。特に、キーボード入力のない音声通話において弱点となっていた、アカウント番号や確認コードなどの「英数字の正確な認識」が改善された。
また、実際の通話環境で発生する背景雑音（犬の鳴き声や車の通過音など）や、一時的な沈黙によってモデルが誤って応答を開始したり、セッションを切断したりする問題も改善されている。さらに、ユーザーが話している途中で「あ、やっぱり注文番号は742ではなく744です」と訂正した場合の割り込み処理（インターラプション）の挙動も向上し、誤認識の連鎖を防ぐ設計になった。
■開発者が留意すべき規制とコンプライアンス
Realtime APIを用いた音声エージェントの運用には、従来の電話システムとは異なる法規制への配慮が必要となる。米国でアウトバウンドコール（架電）を行う場合、連邦通信委員会（FCC）が2024年2月に下した決定に基づき、AI生成音声は電話消費者保護法（TCPA）における「人工音声または事前録音された音声」とみなされる。そのため、事前の明示的な同意が必要であり、違反した場合は1通話あたり500ドルから1,500ドルの法定損害賠償が上限なしで科される可能性がある。2026年初頭には、TCPAに基づく集団訴訟の提起ペースが過去最高を記録している。
医療分野での利用にも制限がある。2026年5月時点で、Realtime APIの音声モダリティは、OpenAIおよびMicrosoft AzureのHIPAA（医療保険の相互運用性と責任に関する法律）に関する事業提携契約（BAA）の対象外となっている。そのため、保護対象保健情報（PHI）を扱うアプリケーションで直接音声を使用することはできない。医療用音声エージェントを構築する場合、音声を一度HIPAA準拠の文字起こしサービスに通してからテキストとしてモデルに送るなどのハイブリッド構成が必要となり、Realtime APIの低遅延というメリットが損なわれることになる。OpenAIは音声モダリティのBAA対応時期を明らかにしていない。
また、セキュリティ上の懸念も指摘されている。イリノイ大学アーバナ・シャンペーン校（UIUC）の研究チームは2024年、Realtime APIのアーキテクチャを利用して、1回あたり約0.75ドルのコストで自動詐欺電話を実行できることを実証した。OpenAIは開発者に対し、ユーザーへのAI利用の開示を義務付け、セッションの監視フィルタリングを行っているが、同研究チームはこれらの対策だけでは特定の攻撃パターンを防ぐには不十分であると指摘している。
■競合環境と今後の展望
Realtime APIは2024年末にパブリックベータとして公開され、2025年末に正式版がリリースされた。2026年5月にはGPT-5クラスの推論能力を持つ「gpt-realtime-2」が登場し、今回の「2.1」へと続いている。約2ヶ月に1回というハイペースなアップデートは、OpenAIがこのAPIを極めて重視していることの現れである。
一方で、競合環境も激化している。Googleが2026年3月にリリースした「Gemini 3.1 Flash Live」は、同等の低遅延を実現しつつ、OpenAIの約50言語を上回る90以上の言語に対応している。また、2026年初頭のブラインドテストでは、音声の自然さにおいてOpenAIはElevenLabsやGemini TokenMixに次ぐ3位という結果であった。しかし、推論能力やSDKの成熟度といった、複雑なワークフローを構築する上で重要な要素においては、依然としてOpenAIが優位に立っている。プラットフォームの選択は、単に「どちらが人間らしく聞こえるか」ではなく、ツールの信頼性、割り込みへの対応、電話回線との統合、コンプライアンス対応といった実用的な要件によって決まる局面に入っている。
■注目ポイントQ&A
●gpt-realtime-2.1とgpt-realtime-2.1-miniの違いは何ですか？
gpt-realtime-2.1は、5段階の推論深度を設定できるフル機能のモデルで、複雑で正確性が求められるワークフローに適しています。一方、miniモデルは推論能力を一部抑えることで、音声出力コストを約3分の1（100万トークンあたり20ドル）に抑えた軽量版です。どちらのモデルも、ツール呼び出し中の無言時間をなくす「話しながら推論する」機能をサポートしています。
●プロンプトキャッシュはどのように遅延を削減するのですか？
会話のシステムプロンプトや過去の履歴をOpenAIのインフラ層に一時保存（キャッシュ）することで、毎回の応答時にすべてのコンテキストを最初から再処理する必要がなくなります。これにより計算時間が短縮され、特に応答が遅くなりがちだった最悪5%のケース（p95遅延）において、少なくとも25%の高速化を実現しています。
●OpenAI Realtime APIは医療分野（HIPAA）に対応していますか？
2026年5月時点で、Realtime APIの音声入出力機能はHIPAAのBAA（事業提携契約）の対象外となっています。そのため、患者の個人健康情報を直接音声で扱うことはできません。医療用途で利用する場合は、HIPAA準拠の外部音声認識サービスで一度テキストに変換してから、BAA対象のテキストLLMに送るというハイブリッド構成をとる必要があります。
●音声エージェントが外部ツールを実行している間、沈黙してしまうのを防げますか？
はい、防げます。新モデル「2.1」および「mini」では、モデルが外部機能を実行している間に「ただいまお調べします」といった発話を同時に生成する「reasoning-while-talking」機能がネイティブでサポートされました。これにより、バックグラウンド処理中の不自然な沈黙を回避できます。
元記事: OpenAI Realtime API Cuts Voice Agent Latency 25%, Adds Reasoning Mini Model