1 min read
OpenAIがChatGPTのテキスト向けに開発した新しい不可視の透かしをテストしたところ、AIが書いた文章を見抜けた割合は約92%でした。ところが、テスト担当者が400トークン（英語で約300語）の文章の4分の1の単語を入れ替えると、検出率は17%まで下がりました。OpenAI自身のデータをもとにPPC Landが報じたこの2つの数字が、小規模ビジネスのオーナーがこのニュースについて知っておくべきことのほぼすべてを物語っています。
要点を手短にまとめます。10月5日、OpenAIは欧州連合（EU）のユーザーを対象に、すべてのプランでChatGPTとCodexが生成するテキストに不可視の透かしを入れ始め、数週間かけて順次展開すると発表しました。理由はEU AI法の第50条です。この条文は、テキスト、画像、音声、動画を生成するAIシステムの提供者に対し、「技術的に可能な場合」には出力を機械で読み取れる形で表示するよう義務づけています。ITdailyによると、EU域外のChatGPTユーザーには何の変化もなく、API（他のアプリがOpenAIのモデルを利用するための開発者向け接続）では、顧客が自ら有効にしない限り透かしはオフのままです。
ここでいう透かしは、目に見えるスタンプではありません。統計的なパターンです。モデルが単語の選び方をわずかに調整し、専用の検出ツールが後からそれを認識できるようにする一方、人間の読み手は何も気づきません。この微妙さこそが、自信たっぷりで間違った意見がこれほど多く飛び交う理由です。そのうち5つを検証してみましょう。
誤解1：「顧客は私の文章をチェッカーに貼り付けるだけで、ChatGPTを使ったことを見抜ける」
判定：今のところは誤り。OpenAIは検出ツールを一般公開していません。提供開始時点では、承認を受けた研究者や専門機関しか利用できません。顧客がウェブサイトを開いてあなたのニュースレターを貼り付け、OpenAIの透かしシステムから「はい」か「いいえ」の答えを得ることはできないのです。
この状況は変わるかもしれません。いずれ規制当局が一般向けの検証ツールを求める可能性もありますし、他社が独自のツールを作る可能性もあります。しかし現時点では、この透かしは研究者や当局向けのコンプライアンスの仕組みであり、顧客が手にする嘘発見器ではありません。
誤解2：「自分はアメリカにいるから関係ない」
判定：自分で書く文章についてはおおむね正しいが、それがすべてではない。テキサス州やオンタリオ州からChatGPTで文章を書く場合、今回の展開であなたのテキストに透かしが入ることはありません。それでも、北米から一歩も出ない個人事業にも関わりうる状況が3つあります。
- 外注先がEUにいるかもしれない。ポルトガルのバーチャルアシスタントや、ドイツでChatGPTを使って下書きを作るフリーランスのコピーライターからは、透かし入りのテキストが納品されます。
- 使っているアプリが透かしを有効にするかもしれない。APIの設定はOpenAIを基盤にサービスを作る各企業の判断に委ねられているため、あなたが契約している文章作成ツールが独自の理由で透かしをオンにする可能性があります。
- ルールは広がっていく。米国のいくつかの州が、AIの開示に関する独自の法律を作成中です。新しい州のAI法が個人事業にとって何を意味するかをわかりやすくまとめたガイドで、現状を解説しています。
実務上のポイントは、今日何かを変える必要はないものの、AIのテキストは永遠に追跡できないという思い込みは捨てるべきだということです。
誤解3：「少し手を加えれば透かしは消えるのだから、こんなものは無意味だ」
判定：半分は正しい。92%から17%への低下は事実で、OpenAI自身のテスト結果です。単語の4分の1を書き換えれば、シグナルはほぼ消えてしまいます。翻訳や大幅な言い換えを行えば、さらに弱まる可能性が高いでしょう。
しかし、「簡単に消せる」ことと「無意味」であることは別です。この透かしは、スパム工場、偽のレビュー、大量生産されたプロパガンダのように、手が加えられていない生の出力を大規模に見つけ出すために設計されています。AIでニュースレターの下書きを作り、その半分を書き直すパン屋のオーナーを取り締まるためのものでは、もともとありません。
そして、ここに小規模ビジネスへの静かな教訓があります。25%書き換えても意味がまったく変わらない内容なら、いずれにしてもその書き換えはやるべきです。AIの生の文章は、ほかの誰かのAIの生の文章と似通って聞こえがちです。あなた自身の事例、価格、地域ならではの情報、意見を加える編集こそが、あなたの文章を読む価値のあるものにする編集なのです。
誤解4：「AI検出ツールは、誰が書いたかをすでに証明できる」
判定：誤り。OpenAI自身もそう述べている。発表の中で、同社ははっきりとこう述べています。「透かしが検出されないことは、人間が書いたことの証明にはなりません。」何も検出されなかったという結果からは何もわかりません。陽性の結果からわかるのは、ある時点で透かし機能を持つモデルがその単語の一部を生成したということだけです。
サードパーティのAI検出ツール（透かしを読み取るのではなく、文体から推測するツール）の実績は、さらに心もとないものです。OpenAIは精度の低さを理由に、2023年に自社のAIテキスト分類ツールを終了しました。また、検出ツールのスコアを信じた顧客から、フリーランサーが不当に疑われた例もあります。もし顧客が検出ツールのパーセンテージを突きつけてきたら、どのツールが出した数字なのか、誤検出（人間が書いた文章がAIと判定されること）をどう扱っているのかを尋ねる正当な理由があります。
逆に言えば、自分の外注先を評価するためにこうしたツールを使うのもやめましょう。正確さ、文章のトーン、成果で仕事を評価してください。
誤解5：「AIを使っていることは絶対に認めないのが一番安全だ」
判定：誤り。しかも、ますます誤りになりつつある。誰も尋ねなかったころは、AIの利用を隠しても通用しました。今では顧客が尋ねてきます。契約書にもそのための条項が盛り込まれるようになりました。EUや米国のいくつかの州の規制当局は、開示ルールを作成しています。AIの下書きをこっそり完全な手作業として納品してきた事業者は、自らの評判に小さな時限爆弾を抱えているようなものです。
より安全なのは、地味で誠実なやり方です。何にAIを使うかを決め、それを書き留め、顧客にひと言で伝えましょう。ほとんどの顧客が気にするのは、事実が正しいこと、そして自分の機密情報が守られることの2点です。この2点に答えれば、AIに関する疑問はたいていそこで終わります。
まだそのポリシーを作っていないなら、1ページのAIポリシーを書くためのガイドを使えば、1時間ほどで仕上がります。
賢い個人事業が今月やるべきこと
慌てる必要はまったくありませんが、次の3点を整える良いきっかけです。
- 重要な場所に開示の一文を加える。たとえば「下書きと編集の補助にAIツールを使用しています。すべてのコンテンツは人が確認し、事実関係をチェックしたうえで仕上げています。」といった文です。サービス紹介ページや提案書のテンプレートに入れておきましょう。
- 顧客との契約書を見直す。文章、デザイン、翻訳を納品しているなら、AIツールの使用可否と、出力を誰が確認するのかを明記した条項を追加しましょう。後になって顧客が「100%人間による」仕事を約束されたと主張したときに、あなたを守ってくれます。所有権の問題もこれと密接に関わっています。あなたのビジネスが公開するAIコンテンツは誰のものかを扱った記事で、一つずつ解説しています。
- 本気で編集する。AIの下書きはすべて第一稿として扱いましょう。あなたにしかわからない具体的な情報を加えます。声に出して読んでみます。誰に向けたものでもないパンフレットのように聞こえるなら、まだ完成ではありません。
EUの顧客や外注先と仕事をしている場合は、外注先にどのAIツールを使っているか、それをあなたに開示しているかも確認しておきましょう。2分の会話で、後々のずっと長い話し合いを避けられます。
ChatGPTの透かしについての結論
EUの透かしは本物ですが、適用範囲は限られており、壊れやすいものです。顧客があなたを見抜けるようになるわけではなく、現時点では米国のユーザーには及ばず、その気になった編集者なら消してしまえます。ただし、これが示しているのは進む方向です。AIが生成したテキストは、規制が一つずつ増えるごとに、見えないものからラベルが付くものへと移りつつあります。そんな世界で落ち着いていられるのは、すでにAIをオープンに使い、しっかり編集し、自分のプロセスをひと言で説明できるビジネスです。
そこで、次の顧客に聞かれる前に答えておきたい質問があります。もし誰かが、AIがあなたの仕事にどう関わっているのかを正確に知りたいと言ったら、30秒で説明できますか？
