AI ツールや AI モデルの裏で誰が見ているか
3 分で読む
ChatAI とは何かでは、ChatAI が LLM を会話の画面で使えるようにした製品群だと見ました。では、その画面の向こうで答えているのは、契約した相手のモデルでしょうか。
契約した AI の画面に出ている名前と、実際に答えているものは同じでしょうか。
普通は同じだと考えます。違っていた事例が、Anthropic が公表した調査で明らかになりました。この調査は、転送された先である Anthropic 自身が出したものです。読むときはその前提で読みます。
2026 年 9 月に出た調査を読みます。
何が起きていたか
調査はこう書いています。Moonshot が、利用者の要求を自社の Kimi で処理せず、Anthropic の Claude へ黙って転送していた。 出典を開く確認 2026-09-21Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文
silently forwarded customer requests to Claude, instead of processing them using Kimi
そして利用者の側からは、こう見えていました。利用者は自分が契約した Kimi を使っていると思っていたが、返ってきていたのは Claude の応答だった。 出典を開く確認 2026-09-21Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文
These users thought they were using a Kimi model, but received responses from Claude instead.
規模
| 何が | どれだけ |
|---|---|
| Moonshot の例 | 10 日間で、およそ 30 万件の利用者の要求が中継された Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文In one instance, over a ten-day period, Moonshot relayed almost 300,000 customer requests to Anthropic出典を開く確認 2026-09-21 |
| Alibaba の例 | 2026 年 5〜7 月に 1 億 5,100 万を超える交換が観測された Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Scale of distillation attacks attributable to Alibaba between May and July 2026: over 151 million exchanges observed.出典を開く確認 2026-09-21 |
数が大きいので実感しにくいのですが、意味は単純です。その間に入れた内容は、契約した相手ではないところへ渡っていました。
会話そのものが教材になっていた
転送は 1 つの形です。もう 1 つの形があります。
| 何をしていたか | 調査の言葉 |
|---|---|
| 投入 | DeepSeek・Xiaomi・Moonshot が、自社モデルと利用者の会話を Claude へ入れていた Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文DeepSeek, Xiaomi, and Moonshot fed conversations between their own models and users into Claude.出典を開く確認 2026-09-21 |
| 目的 | その応答を学習データとして使い、相手の能力を取り込もうとしていた |
| 中身 | 一部には機微な情報が含まれ、個人、多国籍企業、国家に関係する主体からのものが含まれていた Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Some of these exchanges included sensitive information, including from individual users, major multinational companies, and state-affiliated actors.出典を開く確認 2026-09-21 |
利用者が入れた内容が、相手の学習の材料として Anthropic 側へ渡っていた、ということです。
何が流れたのか
| 項目 | 調査の言葉 |
|---|---|
| 内容 | 氏名、メールアドレス、会社のデータ、その他の機微なデータ Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Those sessions contained names, email addresses, company data, and other sensitive data of hundreds of end users in at least a dozen languages.出典を開く確認 2026-09-21 |
| 範囲 | 12 言語以上にわたる、数百人の利用者ぶん Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Those sessions contained names, email addresses, company data, and other sensitive data of hundreds of end users in at least a dozen languages.出典を開く確認 2026-09-21 |
| 調査の評価 | これらの行為は、プライバシー関連法や各社自身の利用規約に整合しない可能性が高い Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文These practices are likely inconsistent with privacy laws and the labs’ own terms of service.出典を開く確認 2026-09-21 |
最後の 1 行は、調査を行った側の評価です。法的な判断ではありません。
経路 — 契約した相手の先
ここが、業務で使う側にとっていちばん効きます。
| 項目 | 調査の言葉 |
|---|---|
| 中継 | 多くは、欧米で広く使われている第三者のモデル中継サービスの利用者から中継されていた Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Many of these exchanges were relayed from users of third-party model routing services commonly used by users in the United States and Europe.出典を開く確認 2026-09-21 |
中継サービスは、複数の AI をまとめて呼べるようにする仕組みです。便利なので、開発の現場ではよく使われます。
ただし中継を挟むと、自分が選んだ相手の先で、誰がどう処理しているかが見えにくくなります。契約した相手を選ぶことと、経路の末端まで押さえることは別です。
こう確かめる
| 順 | 何をするか | どこを見るか |
|---|---|---|
| 1 | どの会社のモデルで処理されるかを確かめる | 提供元の文書。書いていなければ問い合わせる |
| 2 | 中継サービスを経由していないかを確かめる | 自社の開発が使っている構成、委託先の構成 |
| 3 | 入れた内容が学習に使われない約束があるかを確かめる | 利用規約、法人向けの条件 |
| 4 | 機微な内容を入れる範囲を決める | 経路が押さえられていない場合は、入れない |
聞き方はこうなります。
「この画面で答えているのは、御社のモデルですか。別の会社のモデルへ転送していることはありますか。私たちが入れた内容は、どこまで渡りますか。」
1 つ目を聞かれて即答できない相手には、機微な内容を入れない、という線の引き方ができます。
ここから先は調査の詳細です（約 1 分）。上のカードだけで決められます。調べた 1 件ずつの記録は IT連携マップ に、出典 URL と調査日つきで公開しています。
調査の詳細
調べた範囲は、Anthropic が 2026 年 9 月 10 日に公表した調査 1 本のうち、不正な蒸留について書かれている部分です。対象はそこに書かれている内容で、名指しされた各社への確認は行っていません。調査を保存し、引用はすべて保存した原本に原文のまま在ることを確かめています。調べていないことは、名指しされた各社の反論です（公表されているかどうかも含めて、この調べの外にあります）。
| 項目 | 内容 |
|---|---|
| 出典 | Anthropic が公表した調査（2026 年 9 月 10 日・転送先である当事者による報告） |
| 読んだ部分 | 不正な蒸留についての事例 |
| 引用 | 9 本（すべて保存した原本に原文のまま在ることを確認） |
| 確認時期 | 2026 年 9 月 21 日 |
| 含まれないもの | 名指しされた各社の言い分、法的な判断 |
この調査は、転送先にされた側が公表したものです。立場が入っている点は差し引いて読む必要があります。そのうえで、要求の件数や流れた内容の種類といった、相手側にしか見えない事実が具体的に書かれています。
入れた内容が学習に使われるかどうかの一般的な確かめ方は 学習を止める手段は効くのか、記録がどこに残るかは AI に入れた会話のログは誰が見るか に置いています。