使っている AI の裏に誰が居るか
2 分で読む
契約した AI の画面に出ている名前と、実際に答えているものは同じでしょうか。
普通は同じだと考えます。違っていた事例が、AI の提供元自身の調査で公表されました。
2026 年 9 月に出た調査を読みます。
何が起きていたか
調査はこう書いています。ある会社が、利用者の要求を自社のモデルで処理せず、別の会社のモデルへ黙って転送していた。 出典を開く確認 2026-09-21Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文
silently forwarded customer requests to Claude, instead of processing them using Kimi
そして利用者の側からは、こう見えていました。利用者は自分が契約したモデルを使っていると思っていたが、返ってきていたのは別の会社のモデルの応答だった。 出典を開く確認 2026-09-21Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文
These users thought they were using a Kimi model, but received responses from Claude instead.
規模
| 何が | どれだけ |
|---|---|
| 転送の例 | 10 日間で、およそ 30 万件の利用者の要求が中継された Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文In one instance, over a ten-day period, Moonshot relayed almost 300,000 customer requests to Anthropic出典を開く確認 2026-09-21 |
| 別の会社の例 | 3 か月で 1 億 5,100 万を超える交換が観測された Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Scale of distillation attacks attributable to Alibaba between May and July 2026: over 151 million exchanges observed.出典を開く確認 2026-09-21 |
数が大きいので実感しにくいのですが、意味は単純です。その間に入れた内容は、契約した相手ではないところへ渡っていました。
会話そのものが教材になっていた
転送は 1 つの形です。もう 1 つの形があります。
| 何をしていたか | 調査の言葉 |
|---|---|
| 投入 | 複数の会社が、自社モデルと利用者の会話を、別の会社のモデルへ入れていた Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文DeepSeek, Xiaomi, and Moonshot fed conversations between their own models and users into Claude.出典を開く確認 2026-09-21 |
| 目的 | その応答を学習データとして使い、相手の能力を取り込もうとしていた |
| 中身 | 一部には機微な情報が含まれ、個人、多国籍企業、国家に関係する主体からのものが含まれていた Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Some of these exchanges included sensitive information, including from individual users, major multinational companies, and state-affiliated actors.出典を開く確認 2026-09-21 |
利用者が入れた内容が、相手の学習の材料として別の会社へ渡っていた、ということです。
何が流れたのか
| 項目 | 調査の言葉 |
|---|---|
| 内容 | 氏名、メールアドレス、会社のデータ、その他の機微なデータ Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Those sessions contained names, email addresses, company data, and other sensitive data of hundreds of end users in at least a dozen languages.出典を開く確認 2026-09-21 |
| 範囲 | 12 言語以上にわたる、数百人の利用者ぶん Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Those sessions contained names, email addresses, company data, and other sensitive data of hundreds of end users in at least a dozen languages.出典を開く確認 2026-09-21 |
| 調査の評価 | これらの行為は、プライバシー関連法や各社自身の利用規約に整合しない可能性が高い Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文These practices are likely inconsistent with privacy laws and the labs’ own terms of service.出典を開く確認 2026-09-21 |
最後の 1 行は、調査を行った側の評価です。法的な判断ではありません。
経路 — 契約した相手の先
ここが、業務で使う側にとっていちばん効きます。
| 項目 | 調査の言葉 |
|---|---|
| 中継 | 多くは、欧米で広く使われている第三者のモデル中継サービスの利用者から中継されていた Anthropic（2026-09-10・Countering misuse of AI: September 2026）原文Many of these exchanges were relayed from users of third-party model routing services commonly used by users in the United States and Europe.出典を開く確認 2026-09-21 |
中継サービスは、複数の AI をまとめて呼べるようにする仕組みです。便利なので、開発の現場ではよく使われます。
ただし中継を挟むと、自分が選んだ相手の先で、誰がどう処理しているかが見えにくくなります。契約した相手を選ぶことと、経路の末端まで押さえることは別です。
こう確かめる
| 順 | 何をするか | どこを見るか |
|---|---|---|
| 1 | どの会社のモデルで処理されるかを確かめる | 提供元の文書。書いていなければ問い合わせる |
| 2 | 中継サービスを経由していないかを確かめる | 自社の開発が使っている構成、委託先の構成 |
| 3 | 入れた内容が学習に使われない約束があるかを確かめる | 利用規約、法人向けの条件 |
| 4 | 機微な内容を入れる範囲を決める | 経路が押さえられていない場合は、入れない |
聞き方はこうなります。
「この画面で答えているのは、御社のモデルですか。別の会社のモデルへ転送していることはありますか。私たちが入れた内容は、どこまで渡りますか。」
1 つ目を聞かれて即答できない相手には、機微な内容を入れない、という線の引き方ができます。
ここから先は調査の詳細です（約 1 分）。上のカードだけで決められます。調べた 1 件ずつの記録は IT連携マップ に、出典 URL と調査日つきで公開しています。
調査の詳細
調べた範囲は、AI の提供元が 2026 年 9 月に公表した調査 1 本のうち、不正な蒸留について書かれている部分です。対象はそこに書かれている内容で、名指しされた各社への確認は行っていません。調査を保存し、引用はすべて保存した原本に原文のまま在ることを確かめています。調べていないことは、名指しされた各社の反論です（公表されているかどうかも含めて、この調べの外にあります）。
| 項目 | 内容 |
|---|---|
| 出典 | AI の提供元が公表した調査（2026 年 9 月 10 日） |
| 読んだ部分 | 不正な蒸留についての事例 |
| 引用 | 9 本（すべて保存した原本に原文のまま在ることを確認） |
| 確認時期 | 2026 年 9 月 21 日 |
| 含まれないもの | 名指しされた各社の言い分、法的な判断 |
この調査は、転送先にされた側が公表したものです。立場が入っている点は差し引いて読む必要があります。そのうえで、要求の件数や流れた内容の種類といった、相手側にしか見えない事実が具体的に書かれています。
入れた内容が学習に使われるかどうかの一般的な確かめ方は 学習を止める手段は効くのか、記録がどこに残るかは AI に入れた会話のログは誰が見るか に置いています。