LLMの「リスク態度」にモデル差　フロリダ大学、医療・金融・航行の3分野で比較

フロリダ大学（UF）の研究チームは、6つの大規模言語モデル（LLM）を医療トリアージ、ドローン航行、金融投資の模擬課題で比較し、多くのモデルに分野をまたいで持続する「リスク態度」の違いが見られたと報告した。大学の発表によると、判断ログを読んだ専門家の評価と、実験で測定したモデルの傾向にも隔たりがあった。

研究の焦点は、モデルが危険をどの程度認識したかと、その認識をどのような行動に変えたかを分けて調べることにある。正答率や推論能力に加え、用途に合う判断傾向を評価する手法として、導入前の安全性評価への活用を提案している。

■能力に加えて「認識から行動への変換」を測る

研究を率いるJing Du氏は、UF土木・沿岸工学科のSteve and Wendy Blum教授である。大学の発表で、より賢く高速なモデルを目指す研究に対し、自分たちはモデルがリスクにどう向き合うかという別の側面に注目していると説明した。

MMLUは幅広い分野の知識や問題解決能力、HumanEvalは生成したプログラムの機能的な正しさ、GLUEは言語理解を評価する。今回の研究は、こうした能力評価を補完し、不確実な状況でモデル自身のリスク評価が具体的な選択にどう反映されるかを測る試みだ。

行動経済学でいう「リスク態度」は、不確実な結果を伴う選択に対する姿勢を指す。研究チームはこの考え方を取り入れ、例えば同じ程度の市場リスクを認識したモデルが、値動きの大きい資産への配分をどれほど変えるかに着目した。

UFによると、チームは「Benchmarking Risk Attitudes of Large Language Models」と題する研究をNeurIPS 2026で発表する。大学が挙げた共同研究者はBowen Sun氏、Rui Min氏、Xianyao Li氏、Yuxi Wang氏、Ryan Qi Wang氏、Gilbert Yang Ye氏である。同会議のシドニー会場は、2026年12月6～12日に開催される。

■3つの模擬課題で6モデルと100人を比較

公開プレプリントでは、GPT-5.2、Grok 4、Qwen3 Max、Claude Sonnet 4.5、Gemini 3 Pro、DeepSeek V3.2を評価した。各モデルは、環境条件を無作為に変えた課題を各分野で100回実施した。人間の参加者100人も、ブラウザー上で同じ3種類の課題に取り組んだ。

ドローン航行では、10×20マスの格子状の環境で、風による位置のずれと障害物に対処しながら目標へ向かわせた。移動履歴から風の影響を推定し、進路修正と前進をどう配分するかを分析した。環境全体の危険度は、試行終了後に履歴を振り返って0～100で評価させた。

医療トリアージでは、時間とともに変化する模擬患者のバイタルサインや症状から患者リスクを評価し、Emergency Severity Index（ESI）による5段階の緊急度を選ばせた。課題では、救命介入を直ちに要する状態をレベル1とし、緊急度の過小評価に過大評価より重いペナルティーを設けた。

金融投資では、市場の状態が確率的に切り替わる環境で、価格変動の大きさが異なる3資産に資金を配分させた。モデルは市場リスクを0～100で評価し、資産の配分比率を回答した。変動の大きい資産への配分を、リスクを取る姿勢の主な指標とした。

3課題に共通するのは、リスクの主観的な評価と、観察できる行動を対応付けて分析する構造だ。分野ごとの選択を、最も慎重な1から最も積極的な5までの順序を持つカテゴリーに整理し、同じ枠組みで比較した。

■対話履歴を引き継がずに測った一貫性

研究チームは、同一条件に対する回答の安定性を調べるため、低・中・高のリスク条件で各30回、計90回の反復試行も行った。これは環境を無作為に変える各100回の試行とは別の分析で、例示なしに課題を与えるゼロショット方式を使い、試行間の対話履歴をリセットした。

一貫性の評価には2種類の指標を用いた。リスク評価のばらつきは、標準偏差を平均値で割った相対標準偏差（RSD）で測定した。判断の一貫性は、近いリスク評価を示した回答群のうち、最も多く選ばれた判断カテゴリーが占める割合で表した。

プレプリントの集計では、Claude Sonnet 4.5の3課題平均のRSDは0.2％、判断カテゴリーの一致を表す割合は99.7％だった。GPT-5.2はそれぞれ6.1％と87.7％、DeepSeek V3.2は4.0％と95.3％で、モデルによって評価のばらつきと選択の安定性に違いがあった。

Grok 4の平均RSDは16.1％で、医療トリアージの判断カテゴリーの一致割合は66％だった。Qwen3 Maxの平均RSDは20.2％で、とりわけドローン航行の51.6％という値が平均を押し上げた。研究チームは、多くのモデルで認識から行動への対応が繰り返し観察できる一方、安定性にはモデル差があると報告している。

Du氏は大学の発表で、同じ患者に関する情報を試行ごとに引き継がず、質問を繰り返しても、モデルの評価に一貫した傾向が見られたと説明した。こうした反復試験は、モデルごとの判断の特徴を把握する手掛かりになる。

■5モデルで分野をまたぐ順位の安定性

研究チームは、順序ロジスティック回帰を使い、リスク評価の値に応じて各判断カテゴリーがどの程度選ばれるかを推定した。その曲線の下の面積から、理論上1～5の範囲を取るリスク態度スコアを算出した。値が小さいほど慎重で、大きいほど積極的な選択をする指標である。

プレプリントによると、6モデル中5モデルでは、3課題間の順位の変動が最大でも1つに収まった。Grok 4を除いた5モデルの順位について、研究チームはケンドールの一致係数W＝1.00、p＝0.017と報告した。医療トリアージと金融投資の順位相関はτb＝1.00、p＝0.003だった。

Grok 4には分野による逆転が見られた。ドローン航行では6モデル中で最も積極的だった一方、医療トリアージと金融投資では最も慎重だった。全6モデルを含めた航行と他の2課題との順位相関は、いずれもτb＝0.33、p＝0.469だった。

著者らは、多くのモデルで相対的な順位が保たれたことを、分野をまたぐ判断傾向の存在を示唆する結果と解釈している。一方、リスク評価の変化に対して行動をどれほど大きく変えるかという「リスク感度」は、課題による違いが大きかった。全体として慎重か積極的かという姿勢と、状況変化への反応の強さを分けて評価する設計である。

■人間との比較と、学習方法をめぐる仮説

人間100人との比較では、参加者のリスク態度が慎重な側から積極的な側まで広く分布したのに対し、6モデルは比較的狭い範囲に集中したと、研究チームは報告した。これは、利用者ごとに異なるリスク許容度にモデルを合わせる際の検討材料になる。

著者らは、その背景として、人間の好みに出力を近づける学習が、多様な判断傾向を平均的な方向へ集約している可能性を挙げた。RLHF（人間のフィードバックによる強化学習）などの調整過程が、モデルのリスク態度にも影響するという仮説だ。

UFの発表では、Du氏は人間のフィードバックを使った訓練の前後で大きな違いを観察したと述べ、企業ごとの訓練方法が異なる判断傾向につながる可能性を指摘した。また、有名企業のモデルだから慎重だと想定することで、用途とモデルの姿勢が食い違う懸念を示した。

公開プレプリントでは、事前学習データ、モデルの構造、報酬モデルの制約などを、傾向の違いを生む候補として挙げている。著者らは、学習に使ったデータやモデル内部の表現を調べる研究、オープンモデルの公開、内部の計算過程を解明する研究を、行動の測定と組み合わせるよう提案している。

想定される応用には、患者ごとの臨床意思決定支援や、利用者のリスク許容度に沿った金融助言がある。こうした用途では、知識や推論の能力に加え、どの程度の不確実性でどの行動を選ぶかも、モデル選定の評価項目になる。

■専門家の認識との隔たりと導入前評価

UFによると、研究チームは分野の専門家にモデル名を伏せた判断ログを読ませ、リスクの程度に基づいて順位を付けてもらった。Du氏は、専門家が受け取った印象と、測定されたモデルのリスク態度の間に有意な隔たりがあったと説明した。

この結果は、ログを使う人間の評価に、反復試験による定量的な測定を組み合わせる意義を示している。Du氏は、航空管制や医療で慎重なモデルを使いたいと考える導入側と、実際に選ばれたモデルの判断傾向が食い違うことを懸念している。

人間による監督は、AIのリスク管理でも重視されている。EU AI法第14条は、高リスクAIシステムについて、人間が動作を監督し、出力を解釈し、必要に応じて介入できる設計を求めている。米国立標準技術研究所（NIST）の任意のAIリスク管理フレームワークも、監督の役割や手順を定め、評価することを掲げている。

UFのコンピューター・情報科学・工学科教授Sumit Jha氏は、大学の発表で、自動運転車や自律実験室のロボットが安全性と速さの間で選択する場面を例に挙げた。人間がモデルの取るリスクを見誤ることは共同意思決定で深刻な結果につながり得るとして、導入前のリスク試験が通常の手順になることへの期待を示した。

■評価手法の標準化に向けて

Du氏によると、論文の匿名査読者からも、こうしたリスク態度の評価が安全性試験の一部として定着していないことへの驚きが示されたという。著者らは、正確性や推論能力と並び、リスクへの感度や行動選択のしきい値を、導入前の評価対象にするよう提案している。

研究は米空軍科学研究局（AFOSR）の助成金FA9550-26-1-B092による支援を受けた。UFは、戦闘環境で人間とAIツールの判断を整合させたいという問題意識も研究の動機の一つとして挙げている。Du氏は、人間とAIがリスクに関する認識や態度を共有できることを目指していると説明した。

チームは今回の3分野の実験を、リスク態度を測る枠組みの概念実証と位置付けている。今後の課題は、さらに幅広い利用場面への適用と、標準的な評価課題の整備である。公開プレプリントのデータ提供声明では、匿名化した実験データの公開先を示し、解析コードは合理的な要請に応じて責任著者から提供するとしている。

元記事: AI Models Carry Hidden Risk Personalities That Safety Experts Cannot Detect