このブログには97本の記事がある。全部、AIと一緒に書いた。プログラミングも文章も素人の40代が、それでもここまで積み上げられたのはAIのおかげだ。
でも昨日、全記事を機械的に検査して、自分が書いた覚えのない嘘を10本見つけた。
そのうち4本は、記事まるごとだった。健康診断の数値も、医師に言われたセリフも、全部そこに書いてあった。俺が体験していないことが。
これはAIを責める話じゃない。俺の設定ミスが、嘘を量産していた話だ。同じことをやる人はこれから確実に増えるので、恥をかく側として全部書いておく。
何が起きたか｜キャラ設定が、嘘の製造装置になっていた
このブログを始めたとき、俺は自分のキャラクターをこう決めた。
「タバコ・酒・パチンコをやめた40代」
タバコは本当だ。13年吸って、2017年5月28日にやめて、今日で3,347日になる。パチンコも本当。月3万円が今はゼロだ。
問題は「酒」だった。俺は今も週4で飲んでいる。
やめたかった、やめるつもりだった、いつかやめる。そのくらいの気持ちで「やめた3つ」に酒を入れてしまった。たった一語だ。
その一語を、AIは忠実に守り続けた。
記事を書くたびに、AIは「この人は酒をやめた人だ」という前提で文章を組み立てる。だから断酒の記事を書けば、そこには当然のように「俺の断酒体験」が現れる。俺はそれを読んで、違和感を持たなかった。自分の設定通りだったからだ。
いちばん寒気がしたのは、健診の数値が記事ごとに違ったこと
具体例を出す。ある記事には、こう書いてあった。
40歳の健康診断で、γ-GTPが120（基準値の3倍）だった。医師に「このままだと脂肪肝、5年後は肝硬変のリスクがある」と言われた。その日から、俺はお酒との関係を見直した。（中略）1年後、ほぼ断酒できるようになった。γ-GTPは120→45（基準値内）に戻った。
読み物としてはよくできている。医師のセリフまで入っている。
ところが、別の記事にはこう書いてあった。
俺は健診で「γGTP：87」と出たことがある。
120と87。同じ人間の、同じ健診結果のはずが、記事によって数字が違う。
存在しない体験だから、書くたびに数字が変わる。気づいたとき、正直、背筋が寒くなった。読者が2本並べて読めば、それで終わりだ。
いちばん危なかったのは、広告のついた記事だった
10本のうち2本は、アフィリエイト広告を含むPR記事だった。そのうち1本の書き出しは、こうだ。
13年吸ったタバコをやめ、晩酌も手放した俺が、根性論抜きで「続く断酒の始め方」を書く。
やめてもいない人間が「やめた先輩」として名乗り、その権威で商品を勧めている。
節約や時短の記事なら、まだ表現の誇張で済んだかもしれない。でもこれは健康の話で、しかもお金が動く記事だ。ここが一番まずい。
なぜ気づかなかったのか
理由は3つあると思っている。
1つ目。自分で書いていないから、記憶と照合できない。手で書いた文章なら「こんなこと書いたっけ」と引っかかる。AIの文章は最初から他人の文章のように読めるので、引っかからない。
2つ目。文章が自然すぎる。嘘の部分ほど、むしろよくできている。医師のセリフも、数値の推移も、それらしく整っている。
3つ目。設定と一致しているから、嘘に見えない。これが一番きつい。俺の頭の中では「俺は酒をやめた設定」なので、その通りに書かれた文章は正しく見える。
どうやって見つけたか｜勘ではなく、機械で洗う
やり方は単純だ。
- WordPressのAPIで、公開中の全108ページの本文を一括で取得する
- 「俺＋酒＋やめ」「酒もやめ」「断酒してから」など、一人称で断酒を語るパターンで全文検索する
- ヒットした箇所を前後40文字つきで一覧にして、人間が読んで判定する
結果は17件ヒット、うち本当の違反が10本。残りの7件は「お酒をやめたら年間いくら得するか」のような読者に向けた一般論で、これは問題ない。
所要時間は30分ほどだった。長いあいだ見逃してきたものが、機械にかければ30分で出る。
どう直したか｜消さずに、書き足した
最初は「俺」を消して他人事の文章にすることも考えた。でもそれだと、読者は今後も「この人は酒をやめた人」だと思い続ける。
だから逆にした。先に言ってしまうことにした。PR記事の冒頭には、こう書き足した。
先に断っておくと、俺自身は酒をやめた人間ではない。だからこの記事は「やめた先輩の武勇伝」ではなく、続いている人たちが実際にやっていることの整理だ。
偽の健診データが載っていた記事は、数値を全部落として「断酒を続けている人たちがたどっている順番」として書き直した。俺が毎日Xで見ているのは、まさにそれだからだ。
弱く見えるかもしれない。でもやめていないことを隠しながら断酒を語るより、100倍強いと思っている。
AIに記事を書かせる人へ｜同じ事故を防ぐ4つのこと
① キャラ設定に「盛った一語」を入れない
AIは設定を疑わない。1ミリ盛れば、100本の記事に1ミリの嘘が乗る。
② 設定を変えたら、過去記事を必ず遡る
俺は「酒は自分語りしない」というルールを作った。だが過去記事を直すのを忘れていた。ルールは未来にしか効かない。
③ 数字は記事をまたいで矛盾する
体重・金額・日付のような一次データは、1か所にまとめて、そこから引く。記事ごとにAIに出させると、120が87になる。
④ PR記事から先に監査する
広告がつくと、嘘のコストが跳ね上がる。
まとめ｜数字を出すブログが、自分の嘘を数えないのは筋が通らない
このブログは「やめた分を数字にする」というやり方でやってきた。禁煙3,347日。浮いたお金211万円。取り戻した時間1,670時間超。
その俺が、自分のサイトに載っている嘘を数えていなかった。
10本。それが、数えた結果だ。
AIは道具として本当に優秀で、素人の俺に97本を書かせてくれた（その第一歩は知識ゼロの40代がAIと2日で計算ツールを作った話に書いた）。でも道具は、設定した通りのものしか作らない。盛った設定は、盛った記事になって返ってくる。
同じようにAIでブログを書いている人がいたら、今日、自分のサイトを一度検索してみてほしい。30分で終わる。
コメント