Mac Pro (Late 2013) で複数のディスプレイ

全部miniディスプレイHDMI変換ケーブルにして3と4と5で試したり

これだと、２台しか認識しませんよ。

GPUのタイミングソースを２系統占有してしまうので、３台目が動作しません。

使用しているディスプレイのメーカーと型番は？

ディスプレイ側の接続インターフェースは？

ディスプレイ側が、３台ともDisplayPort接続なら、タイミングソースの問題に左右されないので、３台とも素直に認識されます。

ディスプレイ側が、２台がDisplayPort、１台がHDMIでも問題なく映ります。

ディスプレイ側が、２台以上HDMIやDVI接続なら、３台目はタイミングソースを付与出来るDual Linkアダプタ等のアクティブタイプのアダプタを間に挟む事で、３台目以降が接続可能になります。

ディスプレイ側の接続はすべてHDMIです

ということなら、ディスプレイは２台しか認識しません。

HDMIやDVIはグラフィックカードのタイミングソースに依存していますから、２つのタイミングソースしか持たないRadeon搭載のMacProでは、レガシー系のディスプレイ出力装置は２台しか機能しません。

LG製のディスプレイというだけで具体的な型番情報が無いので、対応状況が判りませんが、ディスプレイ側にDisplayPort端子があるのなら、タイミングソースに依存しないDisplayPort接続(MiniDisplayPort- DisplayPort接続ケーブル)にするか、別途タイミングソースを付与出来るアクティブアダプタを間に挟んでHDMI接続で使用して下さい。

NVIDIA製のGPUならタイミングソースを３つ持つ製品もあるのですが、MacProの場合はAMD製のRadeonを採用しないと、あのような設計に出来ませんので、やむを得ません…。

下記の参考サイトのどの条件で接続されているのでしょうか？

参考サイト：Mac Pro (Late 2013) で複数のディスプレイを使う

３台とも 4K（ 3840 pixcel x 2160 pixcel ）ディスプレイでしょうか？

Thunderbolt Bus 0 から 1 、 2 と若い順でディスプレイを１台ずつ接続して行くとどうでしょうか？１つのバスで２台まで認識できるので、まず HDMI を接続して次に Thunderbolt Port 5 、そして Tunderbolt Port 3 の順で接続してみては？