【Pixal3D検証】八雲藍を1・4・6方向から3D化!4方向が最良だった結果とBlender自動動画化

AI関連の記事
AI 3D生成 / COMFYUI / PIXAL3D / 検証記録
画像1枚・4方向・6方向で八雲藍を3D化。
一番良かったのは、意外にも「4方向」だった。

東方Projectの八雲藍を題材に、同じ元絵から派生した視点画像で3D生成を比較しました。成功例だけでなく、失敗した箇所や自動動画化まで紹介します。

RTX 4060 Ti 16GBPixal3D Multi-ViewComfyUIBlender × CodexGLB
先に結論:今回の条件では4方向版がベスト。
1方向は背面の尻尾が崩れ、6方向は色や形状が不安定に。4方向版は側面・背面まで比較的自然な立体になりました。ただし、指や上下の造形には課題が残っています。

完成動画:3モデルを360度で比較

まずは実際の結果を動画で見てください。1方向・4方向・6方向の3Dモデルを同じ条件で回転させ、正面・側面・背面の違いを比較しています。ナレーションはCeVIO AIのタカハシと小春六花です。

YouTubeで大きく見る(約5分)

Pixal3Dとは?

Pixal3Dは、画像をもとにテクスチャ付き3Dアセットを生成する研究プロジェクトです。公式実装には単一画像向けの処理に加えて、複数視点を条件にするMulti-View推論も公開されています。

今回はComfyUIのPixal3D Multi-Viewワークフローを使い、入力画像の構成を変えるとアニメ風キャラクターの再現性がどう変わるか試しました。

注意:本記事の「6方向版」は、4方向の入力に上下方向の画像を追加する独自の実験用ノードを使った結果です。公式の標準的な4方向推論と条件が異なり、Pixal3D全体の優劣を決める検証ではありません。

検証環境

項目今回の環境
OSWindows 11
CPUIntel Core Ultra 7 265K
GPUNVIDIA GeForce RTX 4060 Ti 16GB
メモリ96GB
3D生成ComfyUI + Pixal3D / Multi-View
モデル形式GLB(テクスチャ付き)
動画化Blender Python + VS Code / Codex + FFmpeg

※生成時間やGPUメモリ使用量は、この比較で統一条件の実測値を残していないため、数値評価には含めていません。

入力した1・4・6方向の画像

1方向:正面1枚

正面画像のみ。見えない背面や尻尾の配置は、生成モデルの推定に依存します。

4方向:正面・左右・背面

横一列の4方向画像から各方向を切り出し、Multi-Viewの入力に使用しました。

6方向:4方向+上面・下面

上下の情報を加える狙いで実験。下面画像は掲載にあたり一部をぼかしています。

八雲藍のPixal3D・1方向入力画像(正面)
1方向版で使用した正面画像(run_1views.png)。
八雲藍のPixal3D・4方向入力画像、正面・左側・背面・右側
4方向版の実入力(run_4views.png)。正面・側面・背面・反対側面を横一列に配置。
八雲藍のPixal3D・6方向入力画像、正面・側面・背面・反対側面・上面・下面。一部ぼかし加工済み
6方向版で使った派生画像(掲載用に下面の一部をぼかし)。上段3枚・下段3枚の構成です。
比較条件の注意:各画像は同じ元絵をベースにしていますが、4方向画像と6方向画像の描写は完全一致ではありません。さらに6方向では独自ノードも使っているため、「画像枚数だけ」を変えた厳密な比較実験ではない点に注意してください。

結果比較:なぜ4方向が最良と感じたのか

比較点1方向4方向6方向
正面比較的良好良好おおむね成立
側面形状の推定に限界改善が見られた一部乱れ
背面・尻尾大きく崩れた今回最も自然暗い色や重なりの乱れ
全体評価正面中心なら見られる今回のベスト独自実験では改善せず
Pixal3Dで生成した八雲藍の正面比較、1方向・4方向・6方向
生成3Dの正面比較。大まかなシルエットはどれも成立していますが、細部に差が見られます。
Pixal3Dで生成した八雲藍の背面比較、1方向・4方向・6方向
背面の比較。1方向の尻尾は特に不自然で、4方向では配置が改善しました。6方向は色や重なりに乱れが見られました。

1方向:正面は悪くない。でも背中が難しい

正面から見るだけなら、衣装の配色やキャラクターの雰囲気を再現できています。しかし背面に回ると、巨大な尻尾が塊のようにつながり、元のデザインとの違いが目立ちます。1枚絵に描かれていない部分を正しく復元するのは難しい、という結果でした。

4方向:尻尾と衣装の立体感が大きく改善

今回最も良かったのが4方向版です。側面・背面を入力することで、九尾の広がり方や衣装の形が、1方向版よりも自然に見えました。360度回しても全体のシルエットを比較的保っています。

一方で、指が細く伸びている、袖と手の境界が不自然、上面やスカート下面が十分に整っていないといった問題は残っています。「完成品」ではなく、Blenderで仕上げるための良い原型という印象です。

6方向:視点を増やせば良いわけではなかった

上面・下面の情報を追加すれば、尻尾の重なりやスカートの下側も改善するのでは、と期待しました。しかし今回の独自ノードでは、紫や黄色の色が混ざって見える部分が増え、形状のまとまりも4方向版より悪くなりました。

原因はまだ切り分けられていません。入力画像同士の整合性、カメラ方向の扱い、独自ノードの処理など、複数の要因が考えられます。「6方向は常に悪い」ではなく「今回の実装・画像ではうまくいかなかった」というのが正確な結論です。

Pixal3Dで生成した八雲藍の1方向・4方向・6方向を正面・側面・背面・反対側面から比較
全方向の生成結果。動画から対応する角度のフレームを抽出した比較画像です。

ComfyUIから動画公開までの流れ

  1. 元のAIイラストから視点画像を準備。 1方向・4方向・6方向の入力画像を作成しました。
  2. ComfyUIへ読み込み。 4方向の横長画像は切り出して各視点へ渡しました。画像サイズ・切り出し位置の取り違えには要注意です。
  3. Pixal3Dでメッシュとテクスチャを生成。 最終的なテクスチャ適用後のGLBを保存。途中の形状確認用プレビューでは、色が不足する場合があります。
  4. BlenderをPythonで自動操作。 Codexにスクリプトを作らせ、GLB読込・カメラ・照明・360度回転をバッチ処理しました。
  5. FFmpegでGIF・MP4化。 3Dモデルの回転映像を比較素材にし、CeVIO AIのナレーションを加えてYouTube動画を編集しました。

回転素材は5秒・24fps・120フレーム・768×768で制作。最終的なYouTube本編は1920×1080、約5分8秒です。BlenderのGUI操作に慣れていなくても、CodexによるPython自動化で動画化できたのは収穫でした。

作業時の注意:BlenderでGLBが白く見えても、テクスチャが失われたとは限りません。表示モードや、最終的なテクスチャ適用済みGLBを開いているかを確認すると切り分けやすくなります。

今後の課題:指・上面・下面をCodexで直せるか?

4方向版が最も良いとはいえ、近くで見ると左右の手の指が不自然です。上面の尻尾の重なりや、下面のメッシュも手直しの余地があります。

次回は、元のGLBを壊さず、CodexからBlender Pythonを使って手の形状をどこまで自動修正できるかを検証してみたいと思います。まずはSolで片手を試し、修正前後を複数角度から比較する予定です。うまくいけば、ほかのモデルとの比較や3Dプリント用の原型づくりにも挑戦したいところです。

現時点では「手の自動修正」や「フィギュア化」は今後の計画であり、成功した工程ではありません。

ライセンスと二次創作について

Pixal3Dの公式リポジトリとモデルのライセンスはMITです。ただし、利用する派生モデル・周辺ツール・素材の条件は別途確認が必要です。また、生成モデルがMITだからといって、元となるキャラクターの権利まで自由になるわけではありません。

本記事と動画は東方Projectの非公式二次創作です。個人の二次創作については、上海アリス幻樂団のガイドラインに従っています。将来3Dデータを配布・販売する場合は、配布方法や利用素材の権利、モデル品質を改めて確認します。

東方Project 二次創作ガイドライン(公式) / Pixal3D ライセンス(公式)

まとめ

今回の発見は「入力画像は多ければ多いほど良いわけではない」こと。
少なくとも今回の八雲藍・Pixal3D・独自6方向ノードの組み合わせでは、4方向版が最も納得できる結果でした。次は手などの局所修正を進め、AI製の3Dモデルをどこまで実用品質へ近づけられるかを試します。
▶ 八雲藍 1・4・6方向の360度比較動画を見る

関連する検証記事

InstantSplat++をRTX 4060 Ti+WSLで検証|3枚の画像から3D生成

TripoSRをRTX 4060 Ti+WSLで導入|InstantSplat++との違い

コメント

タイトルとURLをコピーしました