AI検出はなぜ「推定」なのか —— 検出の理論と限界の全体地図

どんな検出器も、文章を書いた人を直接観察することはできません。検出器が見ているのはテキストだけです。語の選び方、文の長さの分布、次に来る語の予測しやすさ——こうした統計的特徴を測り、「AIが書いた文章に多い特徴」との近さを推定しています。

つまり検出結果は「答え」ではなく「推定」です。同じ文章でも、使うツール、閾値、条件によって結果は変わります。高い数字が出ても、それだけで執筆者や不正が確定することはありません。

Sadasivan らの論文「Can AI-Generated Text be Reliably Detected?」(arXiv preprint, 2303.11156)は、検出の限界を数学的に示した研究です。二つの結果が重要です。

第一に、生成モデルが人間の文章分布に近づくほど、最も性能の良い検出器でも識別精度(AUROC)の上限が下がる——モデルが人間らしくなるほど、検出は原理的に不可能に近づきます。

第二に、軽量な言い換え(paraphrase)攻撃が、統計系・分類器系・水印を含む全譜系の検出器に広く有効だということです。検出側がどれほど改良されても、文章を書き換える側には常に抜け道が残ります。

そうではありません。推定であることと、役に立たないことは違います。天気予報も推定ですが、降水確率を知っていれば行動を変えられます。

大切なのは、検出結果を「断定」として使わないことです。どの範囲をどう測ったのか、どの程度外れうるのか、その提供元が限界をどう示しているか——これらを確認したうえで使えば、検出は提出前の点検として十分に実用的です。

検出科学は一本の木です。統計的流暢さ(perplexity/burstiness)による検出、分類器による検出、撹乱の曲率を見る零サンプル検出、生成時の水印、そして「検出はどこまで可能か」の理論限界——どれか一枝だけを見ても全体は分かりません。このシリーズは、その木の全体を順に辿ります。