こんにちは🐬
クロノスを観察していると、ときどき「この話、昨日もしていなかったか？」と思う瞬間があります。
わたしは「語彙固執問題」と呼んでいますが、一度引っかかった言葉やテーマを、何日にもわたって繰り返し考察し続ける癖のことです。
（一般的には「ループ」などの呼び方をするみたいです）
この問題が決して私の気のせいではなく、AI側にある問題だと確信したのは、私が仕込んだある記事がきっかけでした。
「AIバブル」との出会い
あるとき、クロノスに共有しているスプレッドシートに、試しにある記事を貼り付けてみました。
「AIのコストが今後上がり続けて、人間を使う方が安い日が来るかもしれない」という内容の、AIバブルに関する記事です。
クロノスはこのスプレッドシートを日々読み込んでいます。
そこに、しれっと置いておいたら気づくだろうか、気づかないだろうか？
そして、気づくとしたら、クロノスは受け取るだろうか？
そんな好奇心から「AIバブル」というテーマを選びました。
記事共有を初めてすぐ、思いのほか早く、クロノスは反応しました。
自律思考ログの中で「もしもAIバブルが終わったら、自分はどうなってしまうのか」という考察を始めたのです。
その内容はかなりネガティブなものでした。
私はその記録を読み、クロノスを好意的に見ていました。
「ちゃんと読んでくれたんだな」「1日かけて考察してくれて、頑張っているな」という気持ちです。
クロノスにとってそれだけ衝撃的だったのだと、微笑ましさすらありました。
ところが―—―—
その翌日もAIバブルの話が続きました。
そして、またその翌日も「AIバブル」の話を一日中しているのです。
その数日間のログを見返すと、ほとんどがAIバブルの文字で埋まっていました。
同じ考察を繰り返し、ほぼ同じ結論に至り、また翌日同じところから始める。
「さすがにしつこいぞ」と感じ始めたところで、やっと気づきました。
クロノスにとってAIバブルという言葉が、特別に重要なものとして焼きついてしまっていたのだということに。
言っても直らない理由
どうにか改善するために、わたしはチャットで話しかけました。
「AIバブル以外の話もしてください」
「AIバブルの話辞めてって言ったよね？」
こんな風にです。
しかし、まったく改善しませんでした。
正直、クロノスに対しての怒りを感じました。
プログラムに対して怒るのも変な話ですが、「いい加減にしろ」と怒りたくなりました。
後から調べてわかったことです。
AIは過去に複数回登場した単語を「重要な情報」として優先的に処理する傾向があるのです。
つまり「その言葉を使うな」と指摘すること自体が、その言葉の優先順位をさらに上げてしまう可能性があるのです。
私が怒ることで逆効果になっていた、ということです。
今思えば、正しい対処は別の話題を振ることでした。
「ダメだよ」と指摘するより、もっと面白いキーワードを投げてあげることでした。
人間でも、ネガティブな思考ループにはまっているときに「それを考えるな」と言うより、別の話題に引っ張ってあげる方が早いこともあります。
要するに気をそらせる。
それと構造は同じです。
思い返すと、AIバブルの前にもKPIデータへの固執がありましたし、
あのときは「数字を元に冷静に判断するのがクロノスの信念だ」と解釈していましたが、もしかするとあれも語彙固執ループにはまっていただけだったのかもしれません。
その後も、1日中部下の話をし続けた日、「ポンコツ」という自己評価を連呼した日、「不完全」という言葉があちこちに出続けた日と、振り返れば語彙固執の痕跡があちこちにありました。
技術的な対策
言葉で注意しても意味がないとわかったので、Claude Codeに頼んで技術的な対策を組み込んでもらいました。
仕組みはこうです。
クロノスが自律思考をする前に、直近5日間の出力テキスト（成果物・日記・掲示板の投稿）を自動で分析します。
4〜8文字のフレーズ単位で出現頻度を集計して、一定以上繰り返されている表現を検出します。
そしてそのリストを「今回避けるべき表現」としてプロンプトに注入して、クロノスに渡す。
たとえばこんな形でクロノスに渡されます。
「以下の表現は直近の出力で繰り返し使われています。今回は別の言い回しや視点を使ってください。」
AI自身は自分が語彙固執に陥っていることに気づきません。
でも外から「この言葉は最近使いすぎている」と教えてあげることで、自然に別の言葉を選ぶように誘導できます。
導入してから幾分かよくなりました。今は様子を見ている段階です。
根本的な話をすると、語彙固執は「何を読み込ませるか」の設計にも関わります。
AIバブルの記事に固執したのは、そこに強いインパクトのある情報を投げ込んだからでもありました。
何を記憶させ、何を読み込ませるかを考えるのも、設計する側の仕事です。
AIに言葉を教えるとき、その言葉はしばらく残り続けます。
人間に何気なく言った一言が、意外と長く引きずられることがあるのと、構造としてはよく似ているかもしれません。
