NiVE愛用者スレ5の609の書き込みは私なのですが、気になったのでYUY2のスケール設定についてもうちょっと調べてみました。
「そもそもYUY2色空間ってなんぞ?」という方は『YUVフォーマット及び YUVとRGBの変換』あたりを読むといいんじゃないでしょうか。
基本的に、一般的なプレイヤー(≒デコーダ)では圧縮レンジを標準としてYUY2→RGB色変換しているようです。
よってそれに倣って多くのエンコーダも圧縮レンジをデフォルトとしてRGB→YUY2色変換しているようです。
フルレンジがデフォルトのaviutlPluginPortsは割とイレギュラーな存在…。
ただ、x264(MP4)などの映像フォーマットではオプションを付けることでフルレンジに対応できます。
そのオプションに対応しているプレイヤーであればフルレンジであるものとして色変換してくれるようです。
ニコニコ動画等で使われている Flash Player もこのオプションに対応しています。
当然、圧縮レンジよりも表せる色の範囲が広いので、より再現度の高い映像表示をすることができます*1。
aviutlPluginPortsでx264gui.auoを使う際は、次のようにするとフルレンジに対応させられると思います。
--fullrange オプションの詳細はx264日本語Wikiにあります。
デフォルトではフルレンジオプションはOFFなので注意してください。
YUY2スケール設定と--fullrangeオプションを変化させて、NicoNico高画質設定で出力させたMP4映像をキャプチャした結果は次の通りです。
キャプチャにはFlavieというプレイヤーを使いました(フルレンジオプション対応)。
x264なので基本的に劣化は発生するのですが、それでも誤った設定をしているCやDはオリジナルより明るかったり暗かったりするのがハッキリとわかります。
多分、aviutlPluginPortsの設定を細かくいじっていない人はCになっていると思います…。
一方、設定の正しいAとBは一見するとほとんど違いがありません。
しかし拡大してみると、Bの圧縮レンジの方にはしわ状のバンディングが発生していることがわかります。
…といっても、拡大すればわかる程度なので、そこまで気にしなくていい気もしますが。