①、②いずれの場合にも代理人を立てて、代理人に調停に出頭してもらえば構わないと考えます。

但し、お父様と弟様とは利益相反の可能性もありますので、同じ代理人に依頼するというよりも別々の方に代理人に付いていただいた方がよいかも知れません。

また、お父様はご高齢で、少し痴呆となられているとのことですので、この場合、お父様の判断能力が問題となる可能性もありますから、念のため、成年後見の申立てをしておいた方がよいかも知れません。お医者様に痴呆がどの程度のものなのか、正常な判断能力が認められるのか、よくお話を伺うことも必要だと考えます。

遠方や高齢を理由として、調停期日に出頭できなという話しはよくあることです。代理人を立てた上で、裁判所と予め相談しておけば大丈夫です。
問題は御本人の判断能力です。代理人との意思疎通ができなければそもそも委任ができません。意思確認が必要になるでしょう。判断能力に問題があるときは、遺産分割前に成年後見人を立てなければならなくなるかも知れません。