YUVリミテッドの問題もあると思いますが、そもそも、その症状、Mac miniとディスプレイの同期が合っていません。
ディスプレイ側の設定の、PIP/PBP機能は「OFF」になっていますか?
あと、HDMIケーブルのメーカー、型番、長さは?
HDMIケーブルが細かったりコネクタ部分の作りが悪いとノイズに弱かったりしますし、長すぎて信号ロスを起こすようなケーブルを使用していませんか?
極端な話、光ファイバーHDMIケーブルを使用すると、HDMIケーブルの相性問題からは解放されますが、ケーブルの価格が高いので、DisplayPortケーブルのほうが安上がりです。
安価なAmazonベーシックのケーブルでも、下記の価格。
https://www.amazon.co.jp/gp/product/B07X4QHZHF/
私は、信号の受信感度が悪いディスプレイを使用する場合や、長いHDMIケーブルが必要な場合には、上記のケーブルを使用しています。
なお、DisplayPort接続でも問題が出る場合、ディスプレイ側の設定でAdaptive SyncをOFFにして動作確認を。
Mac で Adaptive Sync 対応の外付けディスプレイを使う - Apple サポート (日本)
もう1つ、仕様書を良く見たら、Thunderbolt 3でも繋がるようですが、もし、Thunderbolt 3接続を試してスリープ等が上手く動作しない場合は、Adaptive Syncの設定の確認と、省エネ設定を確認してみてください。