【制作ノート】映像が9本すべて壊れた日｜「描かないで」と書くと描かれる

ある日、生成した映像が9本すべて壊れていました。

打率が悪かったのではありません。全滅です。

月が人の顔に変わっていたり、画面が四角いブロックで埋まっていたり。
一日分の生成時間が、まるごと消えました。

そのときの推測は、間違っていました

最初に立てた仮説はこうです。

「暗くて情報の少ない絵は、AIが動かすときに壊れやすいのだろう」

もっともらしく聞こえます。星空や夜の海——確かに暗い素材ばかり使っていました。
なので「もっと明るい素材を選ぼう」と考えました。

この仮説は、あとで完全に否定されます。

18本の素材の明るさを実際に測ってみたところ、
うまくいった素材の暗部率が62.6%、失敗した素材が62.0%。

ほぼ同じでした。

決定的だったのは、雪原の素材です。暗い部分が0%、白飛びするほど明るい絵。
それでも全滅しました。

思いつきで原因を決めていたら、ずっと的外れな対策を続けていたことになります。

犯人を2つに分けて捕まえる

そこで、感覚をやめて対照実験をしました。

変える条件を2つだけに絞って、4本生成します。

• プロンプト：「〜を描かないで」と書いたもの / 否定語ゼロで書いたもの
• シード（生成のランダム性を決める数値）：全滅した日の数値 / 別の数値

結果は、驚くほどはっきりしていました。

読み取れることは2つです。

① 四角いグリッチは、プロンプトが原因。
シードを固定してプロンプトだけ変えると、出たり消えたりしました。

② 月が人の顔になる現象は、シードが原因。
プロンプトを固定してシードだけ変えると、出たり消えたりしました。

この2つは独立した別々の問題でした。
そして全滅した日は、両方を同時に踏んでいたのです。

「描かないで」と書くと、描かれる

いちばん効いたのが、これでした。

わたしは映像が壊れるのを防ぐつもりで、指示にこう書いていました。

四角いブロックやグリッチを出さないでください

ところが使っていた生成モデルは、否定の指示を受け取る仕組みが働かない設定でした。

その結果どうなるか。
「四角いブロック」という言葉だけが残り、それを描く指示として読まれるのです。

壊れないようにと書いた一文が、壊す原因になっていました。

以来、書き方を変えました。

• 否定語を使わない
• 何が写っているかを、主語から書く
• 「割れないで」ではなく「ひとつのなめらかな円のままである」と肯定形で書く

もうひとつ学んだこと

同じ調査で、動きについても分かったことがあります。

「発生する」「離れる」「落ちる」といった動きは、必ず破綻する。

雪が降る、葉が枝から離れる——こういう指示は、短い生成ステップでは処理しきれません。
物が増えたり消えたりする動きは、AIにとって難しいのです。

いまは動きを「表面が流れる」「ゆっくり形が変わる」の範囲に限定しています。

静かな失敗がいちばん怖い

この件でいちばん怖かったのは、実は別のところにあります。

壊れた映像が、システム上は「成功」として通っていたことです。

生成が完了したかどうかしか見ていなかったので、
中身が破綻していても、エラーは出ません。

ファイルサイズで検知できないかとも考えましたが、
壊れたクリップの数値は正常範囲に収まっていて、判別できませんでした。

つまり、見る以外に方法がなかったのです。

地平線が、ここでも出てきた

そして、もうひとつ。

この調査で「地平線のある構図」が壊れやすいことも分かりました。
ある地平線構図の素材は、条件を変えて3回試して3回とも破綻しました。

以前、静止画で「地平線が人工物の椅子になる」ことに気づいていたのですが、
動画でも同じ場所が弱点になっていたわけです。

同じ弱点が、別の場所で顔を出す。こういうことがあります。

一日分の生成を失ったのは、痛い経験でした。

でも、そこで思いつきの対策に走らず、
条件を2つに絞って実験したことで、ようやく本当の原因にたどり着けました。

「暗い絵が壊れる」と思い込んだままだったら、
いまも見当違いの素材選びを続けていたはずです。

失敗そのものより、原因を勘で決めてしまうことのほうが、あとで高くつきます。