分散ダメージの仕様について

基本的に攻撃が回ってきた瞬間の頭数ですが、例外があります。
分散、非分散に関わらず全体を攻撃するものは、攻撃をすべてうち終わらないと敵の撃破判定がなされません。イアデル2体など持っていましたら2体並べて魔道書倒しがてら見てみるとわかりやすいと思います。
なので、例えば複属性の全体攻撃の後ろに分散を入れると、もし前の主属性の全体攻撃でダメージ量的に敵が倒されたいたとしても複属性の攻撃がまだ終わってないので頭数が減ってないという判定がなされて、倒されているはず敵にそのまま攻撃が入っていきます。これによって、オーバーキルするケースがありますので、複属性の全体攻撃を持つ精霊を使う時は気に留めておいてください。
ちなみに単属性だと攻撃が当たった瞬間に終了するのでこういったことは起こりません。

前の方がおっしゃるように、分散ASは攻撃が当たった瞬間の敵の数で攻撃力が変わるので、素材集め等の難易度が低いクエでは先頭に置いた方がまとめて倒せて効率良いですし、敵の体力が高めの高難度クエなら最後尾に置いて攻撃順までに敵の頭数を減らすことで、単体への火力が出やすく効果的かと思います。

他のASよりもクエの難易度に応じた配置次第で活躍度合いが変わりやすい、という意味ではくせがあるけど面白いASだなぁと感じますね。

結論から言うと、そのキャラの攻撃順がまわってきた時点の敵の数です。
ですので解答した時点で敵が３体いたとしても、先の順番のキャラが倒してしまっていれば残った敵に集中してダメージを与えられます。

発想としては「数が少ないほどダメージが上がる」というより、敵の数が多いとダメージがバラけて（分散して）それぞれに与えるダメージが下がる、という方が正確です。

システムのダメージ計算のアルゴリズムがわかりませんが、攻撃が確定した瞬間（ASであれば正解した瞬間、SSであれば発動した瞬間）に、発動ダメージが計算され、存在する相手の数で割った数値が各相手に加えられるダメージ量と考えるのが自然かと思います。
通常はダメージが発動してから相手に当たるまでに、相手の数は変わらないので、単純に頭数で割ればいいと思います。

レイドの場合は、通常は相手が一匹なので、単純に丸々当たると考えていいと思います。