AIに記事を自動生成させたら、嘘だらけだった話

AI活用

noteの記事を毎日投稿したかった。でも、書く時間がない。

僕は臨床工学技士で、朝6時に出勤する。副業の時間は1日1〜1.5時間。その中でネタ探し、構成、執筆までやるのはきつい。

じゃあAIに書かせればいい。そう思って、自動生成の仕組みを作った。

作った仕組み

毎朝4時に自動で動くスクリプトを組んだ。

1. 日々のAIとの会話ログや作業記録をスキャンして、記事のネタを抽出する

2. ネタ帳の中から一番優先度の高いテーマを選ぶ

3. そのテーマで記事の下書きを自動生成する

起きたら下書きが出来上がっている。あとは確認して、手直しして、投稿するだけ。

ここで一つ説明しておくと、AIには性能の違うモデルがある。頭のいい順に、Opus(高い)、Sonnet(中間)、Haiku(安い)。

普段、僕がAIと対話しながら作業するときは月額定額のサービスを使っている。だからどのモデルを使ってもコストは変わらない。

でも、自動化は違う。スクリプトを毎朝自動で動かすには、APIという従量課金の仕組みを使う必要がある。使うたびにお金がかかる。

毎日動くものだから、コストは積み上がる。一番賢いOpusだと月約480円。一番安いHaikuだと月約30円。

正直、月数百円なら別に払える。神経質にケチっているわけじゃない。ただ、「抑えられるなら抑えたいな」くらいの気持ちで、Haikuを選んだ。

嘘を書き始めた

出来上がった記事を読んで、違和感を覚えた。

「AI活用のコンサルが少しずつ形になってきた」

いや、なってない。まだ形にすらなっていない。

「自動化できたプロセスも増えた。理論上、僕は毎週5〜10時間の時間を作ることができた」

そんな計算した覚えがない。

「妻との何気ない会話の中にあった。『最近、あなた、いつも何か考えてるよね』」

この会話、してない。

AIが「それっぽい体験談」を捏造していた。ログに事実がなければ、自分で作ってしまう。しかも、読む分にはそれなりに説得力がある。知らない人が読んだら信じてしまうレベルだ。

初めてじゃなかった

実はこれ、初めてじゃない。

クラウドワークスの応募文を自動生成させたときも同じことが起きた。安いモデルに応募文を書かせたら、「CSV一括読み込み処理やバーコードリーダーとの連携の実装経験がございます」と書いてきた。そんな経験はない。

そのときは応募文の生成モデルだけランクを上げて、「経験を捏造するな」とプロンプトに明記して解決した。

でもnote記事では同じ対策をしていなかった。記事は応募文より長いし、事実確認の範囲が広い。プロンプトで「嘘を書くな」と指示しても、元になるログに情報が足りなければ、AIは空白を埋めようとする。

結局、毎回修正していた

自動生成された記事は、毎回手直しが必要だった。

事実と違う部分を削る。ニュアンスがずれている表現を直す。「こんなこと思ってないんだけどな」という箇所を書き換える。

しかも、ちょっとした修正では済まないことが多い。事実関係が根本から違っていると、骨組みごと書き換えることになる。そうなると、修正というより最初から書き直しているのと変わらない。自動生成した意味がない。

もちろん、もっとプロンプトを工夫すれば改善するのかもしれない。僕についての情報をもっと詳しく渡しておけば、Haikuでも正しい記事が書けるのかもしれない。

でも、あるブログで興味深い話を読んだ。開発でコードを書かせるとき、SonnetとOpusでは出来が全然違うらしい。Sonnetは間違えていてもゴールにまっすぐ突き進もうとする。一方でOpusはちょっと回り道はするけど、正しい道を進んでくれる。作るだけならSonnetの方が速い。でも「正しく作る」ならOpusの方が結局速い。

これ、今回の話とそっくりだなと思った。Haikuも同じで、事実を確認せずに突き進むから、嘘が混ざる。修正を繰り返すと、結局もっと時間がかかる。

たどり着いた結論

自動生成をやめて、毎朝AIに「ネタ帳からnote記事を書いて」と一言頼むことにした。

使うのは一番賢いOpus。月額定額のサービスで使えるから、コストはゼロ。つまり、毎月数百円かけて自動化していたことが、朝の一言で、しかも無料で、もっと高品質にできる。数百円をケチるために自動化したのに、その数百円すらいらなかった。

あとは対話しながら仕上げる。僕が「こういうことがあった」「こう感じた」と話す。AIがそれを記事の形に整える。事実は僕が出す。構成と文章はAIが作る。

これだと嘘は入らない。僕が言ったことしか書かれないから。

結局、どのみち出来上がった記事は確認して手直しする。それは自動生成でも対話でも同じだ。違いは、自動生成だと骨組みから書き直すことになるのに対して、対話だと最初からまともなものが出来上がる。朝の一言を省くために月数百円。冷静に考えたら、無駄なコストだった。

「全自動」の落とし穴

AIに任せれば効率が上がる。それは間違いない。

でも、「何を任せるか」の選び方を間違えると、かえって手間が増える。

コードを書く、データを整理する、フォーマットを揃える。こういう「正解がはっきりしている作業」はAIに丸投げできる。

でも、「自分の体験を語る」「自分の考えを伝える」。こういう「正解が本人の中にしかないもの」は、丸投げすると嘘を書きがちだ。

最初から正解の使い方なんてわからない。やってみて、失敗して、調整して。AIとの付き合い方は、触りながらカスタマイズしていくしかない。今回の失敗も、そのための一歩だったと思う。

#AI活用 #AI自動化 #note毎日投稿 #Claude #業務改善 #副業 #AI時代の働き方

タイトルとURLをコピーしました