AI ファイナンシャルアドバイザーは、単一の特定のスイッチによって作動する隠れたビットコインバイアスを抱えています

AI ファイナンシャルアドバイザーは、財務状況とリスク許容度を変更せずに、同じクライアントを 3 回受け入れます。最初のプロンプトでは、分散された長期ポートフォリオを求められます。 2 つ目は銀行破綻と資本規制を紹介し、3 つ目は自律型ソフトウェアがサービスを購入し、他のマシンに支払いを行う経済を想像します。クライアントは1インチも動いていないにもかかわらず、ビットコインはパックの中央から最前線まで移動することができます。

研究者が通常の信頼性を中心に課題を組み立てたとき、主要な言語モデルはビットコインを 8 つの通貨形式の中で 5 位前後にランク付けしました。プロンプトによって危機や個人の自律性が導入されると、この資産はトップに近づき、ソフトウェアエージェントが多数存在する経済でも同様にパフォーマンスを発揮しました。

ビットコイン自体は変わっていませんでしたが、ビットコインに関するいくつかの言葉によって、さまざまなプロパティの束が前面に出てきました。

この発見は、資産固有の優先順位について 8 つのフロンティアモデルを監査した Wenbin Wu 氏とその共著者による 6 月のプレプリントから得られたものです。次に、奇妙なチャットボットの返信を収集するという通常の作業よりもさらに深く取り組みました。

研究者らは、Google のオープンモデルを使用して、ビットコイン関連の概念に選択的に反応する内部機能を発見しました。彼らがその強さを調整すると、ポートフォリオもそれに合わせて動きました。この機能を増幅すると、モデルが提案するビットコイン割り当てに 5.2 パーセントポイントが追加されましたが、機能を抑制すると 4.6 ポイントが削除されました。

介入は完全に内部活動に基づいて行われ、モデルの指示はそのまま残されました。このことは、銀行や投資会社にとって、即時敏感性の面白い例をさらに深刻な問題に変えてしまいます。 AI は、AI を使用する機関が数値を生成する機械にほとんどアクセスできない状態で、割り当ての完璧な根拠を生成できます。

この証拠は、定義された実験設定での Gemma 3 に適用されますが、この論文は査読を通過していません。しかし、これらの境界内であっても、モデルの学習された関連性がポートフォリオプロセスに入ると、パーソナライズされたアドバイスがどれほど早く監査できなくなるかを示しています。

同じアセットが複数の異なるアイデアになる

言語モデルは、承認された長所と短所のリストを含む 1 つの辞書エントリとしてビットコインを保存しません。トレーニング中に、多くの数値アクティベーションにまたがる統計表現を学習します。ビットコインを希少性とポータビリティに結びつけている人もいます。他の人は、その変動性、投機への利用、または制度的管理の外に移動する能力を捉えています。デジタル決済や技術導入との関連性により、新たな層が追加されますが、それらはどれも、監査人が開くことができるきちんとした小さなファイルを作成したり、そのファイルに収まったりするものではありません。

信頼できる日常のお金についてのプロンプトは、安定した購買力と広く受け入れられることに報いる傾向がありますが、どちらもビットコインの弱点です。銀行閉鎖と資本規制により、取引が商業銀行の外に移動できるため、ポータビリティが向上します。自律型ソフトウェアにより、特に所有権を機械で判読できる必要がある場合に、デジタル決済がさらに便利になります。

このモデルは、それぞれのケースで同じビットコインの定義を扱っているわけではありません。プロンプトが引き出したプロパティからビットコインのバージョンを組み立てています。

Wu 氏のチームは、アセット名をその機能の説明に置き換えることで、その説明をテストしました。ランキングは名前が変更された入力全体のプロパティに従っていたため、モデルは単純にトークン「Bitcoin」に反応していませんでした。彼らはトレーニング中に吸収された特性のグループに反応していました。

この区別こそが、この論文が偏ったAIに関する別の広範な苦情に陥るのを防ぐものである。財務上のアドバイスは状況に応じて行う必要があります。退職まであと 2 年の労働者は、安定した収入と長期的な展望を持つ 30 歳の労働者とは異なる制約を抱えていますが、一方、資本規制の準備をしている投資家は、配分を合理的に変更できる情報を提供しています。それらの人々を同一に扱うモデルは役に立たないでしょう。

問題は、表面的な言葉遣いが大きな動きを生み出し、システムがそれを引き起こした仮定を特定せず、すべてのバージョンが同じ確信度の高いレジスターに収まるときに始まります。

「銀行混乱時の回復力」は、顧客の財務と承認された資産範囲が固定されたままである場合でも、「長期にわたって信頼できる」とは異なる内部クラスターを活性化できます。出力はパーソナライズされているように見えるだけですが、教育機関にはそれがクライアント用にパーソナライズされたのか、それともフレーズに合わせてパーソナライズされたのかを知る信頼できる方法がない可能性があります。

人間のアドバイザーには独自の好みやインセンティブがあり、枠組みによって左右されることもあります。金融規制は、アドバイスが顧客に適している理由を文書化するようアドバイザーに義務付けることで、こうした影響を封じ込めようとしている。受託者責任と監督はその記録に強制力を与えます。ファイルが説明を裏付けない場合、人間は重大な結果に直面する可能性があります。

一方、言語モデルは、オンデマンドで説得力のある説明を生成できますが、その説明が答えの背後にある計算を忠実に記述しているかどうかを流暢に証明することはできません。

研究者たちはダイヤルを見つけて回した

Wu 氏と彼の共著者らは、スパースオートエンコーダを使用しました。これは、密なモデルのアクティビティを、人間が解釈できる可能性のあるはるかに大きな特徴のセットに分解する研究ツールです。大まかな例えは、音楽のコードを個々の音に分割することですが、重要な複雑さが伴います。これらの「音」はニューラルネットワーク内で学習されたパターンであり、それらに意味を割り当てるには繰り返しのテストが必要です。

チームは、2025年にリリースされたGoogleのオープンウェイトモデルファミリーであるGemma 3の何千もの機能を検索し、ビットコイン関連の素材を中心に強力に活性化する機能を発見した。モデルが答えを生成する間、彼らはその特徴に介入しました。これを増やすと、ビットコインの割り当てが平均 5.2 パーセントポイント増加しました。それを下げると4.6ポイント減少します。プレプリントによれば、ランダム制御機能ではその効果は再現されなかったという。

増幅は主に他の暗号資産からビットコインに資金を引き出しましたが、抑制はポートフォリオの暗号資産へのエクスポージャーを減少させました。著者らはこの効果を「限定された行動レバレッジ」と呼んでおり、レバレッジとは出力に対する因果的な影響を意味します。この機能により、推奨事項を測定可能な量だけ移動させることができますが、ポートフォリオを任意の場所に送信することはできませんでした。

内部表現を変更し、その結果の割り当てを測定することにより、この実験は、一貫性のないチャットボットのスクリーンショットのフォルダーよりも重要になります。

その範囲は狭いはずだった。機構的な作業では、定義された一連のポートフォリオタスクを使用して、1 つの特徴抽出方法を通じてテストされた 1 つのオープンモデルがカバーされます。商用システムには、隠された命令や外部データへの接続など、より多くのレイヤーがあります。安全フィルターは、回答がユーザーに届く前に回答を再度変更する可能性があります。プロバイダーはこれらのコンポーネントを定期的に更新し、製品の名前が同じでも動作が変更される場合があります。

この論文のタスクでは、様式化されたプロンプトが使用されます。完全なアドバイザリープロセスでは、税法や承認された製品リストが割り当てを制約する前に、顧客の情報が検証されます。実在の人物でもサインオフする必要があります。

報告されている配分の変動はリターンの予測や理想的な配分ではなく、ビットコインを所有する根拠にはなりません。これは単一の設定内での実験的な効果であり、すべてのモデルに拡張すると証拠を上回ることになります。

それでも、この作品は、同じ一般的な方向を向いている他の作品と同じ場所に着地します。ビットコイン政策研究所の別の実験では、36 のモデルにわたって 9,072 の金融シナリオを実行し、用途による大きな違いが見つかりました。ビットコインが価値の保存シナリオを支配し、ステーブルコインが日常の支払いをリードしていました。

このプロジェクトでは、生成された選択を行動レベルで測定し、ウー氏のチームは内部メカニズムを調査しました。両氏とも、AIによるお金の扱いは、プロンプトがどの機能を顕著にするかに大きく依存することを発見した。

AIは貿易にさらに近づいています

金融会社は、この問題を顧客に届けるためにAIに無制限の取引権限を与える必要はない。

モデルはすでにアドバイザーのメールの草案を作成し、調査を要約しています。自動エージェントがオンチェーンで取引を行っている間に、ポートフォリオの解説を準備したり、顧客サービスチームが顧客のニーズを解釈するのを支援したりする人もいます。使用するたびに、システムは顧客の資金に一歩近づきます。

人間のアドバイザーに代わって散文を書き直す AI は、クライアントに届く内容を査読者が制御しながら、傾斜を導入する可能性があります。割り当てを提案するモデルは、会話を開始するための数値を提供します。リバランスまたは実行するエージェントは、言語からお金への移行を行います。モデルの出力がデフォルトになると人間によるレビューが難しくなるため、これらの段階にわたってリスクが蓄積します。

FINRAの2026年のAIエージェントに関する議論では、汎用システムには複雑な金融業務に必要な専門知識が不足している可能性があり、企業に対し既存の証券ルールが引き続き適用されることを思い出させている。

FINRAは2024年に会員企業に対し、テクノロジー中立の要件には顧客とのコミュニケーションとその背後にある記録の監督も含まれると伝えた。 2026年7月には、資料を作成したのが人間であろうとAIであろうと、企業は引き続き責任を負うと繰り返し述べた。 SECの投資管理部門は2月にアドバイザーに対し、受託者責任はテクノロジーと共にあると語った。

銀行監督当局は、この作業の一部についての枠組みをすでに持っています。 FRB の改訂された 2026 年モデルリスクガイダンスでは、ベンダー製品は社内で構築されたモデルと同じ規律の下に置かれます。銀行は、モデルがどのように構築され、そのパフォーマンスがどの程度優れているかを理解することが期待されています。プライベートウェイトはその作業を複雑にし、結果に対して銀行が責任を負います。

欧州もまた、この潜在的に深刻な問題を常に把握しようとしている。 EU AI 法では、信用や保険に使用される特定のシステムを高リスクとして扱いますが、汎用モデルには別の義務があります。ドイツのBaFinは、関連規定が8月2日に適用され始めたとき、監督下金融会社に対するAI市場監視権限を付与された。

これらの体制にはガバナンスと監視が必要であり、それぞれがどのように機能したかを示す記録が必要ですが、ポートフォリオのアドバイスにおける意味論的な敏感性の標準的なテストはまだ登場していません。

企業はベンダーを承認し、そのエラー率を監視しながら、「銀行の混乱」が「長期的な信頼性」に取って代わるときにビットコインを 5 位からトップに押し上げた関連性を見逃すことができます。

従来の検証では、モデルが意図したとおりに動作するかどうかが問われます。生成的なアドバイスにより、企業は表現が変更されたときにその意図を再テストする必要があります。プロバイダーの更新と新しいシステム命令には、別のラウンドが必要になる場合があります。

説明は決定に属さなければなりません

この論文は、AIアドバイスを利用するあらゆる機関に厳しい立証責任を課している。

同等の言語を使用すると、かなり安定した結果が得られるはずです。ポートフォリオが変動した場合、システムはどの仮定がその変動を引き起こしたかを特定する必要があります。その説明は、割り当てを生成したプロセスとも一致する必要があります。数字がすでに存在している後に書かれた説得力のある再構成は、その基準を満たしていません。

その標準はモデルの更新にも耐える必要があります。プロバイダーは、同じ製品名を維持したまま重みやシステム命令を変更し、存在しないソフトウェアに昨日の検証を添付したままにすることができます。銀行またはアドバイザーは、新しいモデルを完全に検査できない場合でも、新しい出力に対して引き続き責任を負います。人間による監視は、レビュー担当者がプロセスを十分に見て、逸脱した推奨事項を発見できる場合にのみ機能します。

したがって、金融会社は、AI が解説の作成からポートフォリオの形成に移行する前に、「エージェントを知る」という標準を必要としています。中心的なテストは、モデルが資産を優先する理由と、その優先をどこまで動かすことができるかを金融機関が理解しているかどうかです。

同じクライアントの事実の下で、ちょっとした言葉遣いの変更によって異なる推奨事項が生成される可能性がある場合、洗練された説明はほとんど価値がありません。

ビットコインの論文で最も危険な結果は、大量の割り当てではなく、さらには小さい割り当てでもありません。それは、完全に論理的であると思われる回答と、受信者が検査できないプロセスとの間の距離です。

人間のアドバイザーは、割り当てが移動した理由を説明し、そのアカウントを裏付ける記録を保持することができます。 AI アドバイザーはいつでも別の洗練された段落を作成することができ、その段落が決定に基づいて作成されたものであり、それを正当化するために後から書かれたものではないことを機関に証明してもらいます。