レイヤ一覧コマンドはダイアログを任意の大きさに自由に伸縮させることができません。必ず子ウィンドウの大きさが並ぶサイズに調整されます。
レイヤ一覧コマンドのダイアログ内にはプレビューのための子ウインドウが並んで表示されていますが、「オプション」ボタンで子ウインドウのサイズを変更した時など、自動的にダイアログ自体のサイズも変わります。ダイアログの上下左右をドラッギングして大きくしようとしても、子ウインドウのサイズよりも大きくドラッギングさせないとダイアログは大きくなりません。

ダイアログサイズを変更する際のドラッキング中に、表示されている子ウインドウの縦横サイズよりも大きくカーソルを動かします。(例:画面左上にダイアログを移動し、右下部分を大きくドラッグ)