どのように古いメールを削除するのか

imapで受信してるなら、手元の端末のメールソフトで削除とすればサーバー上のメールを削除できます。

新着メールを受信できてるなら、容量に多少の余裕はあるのでは？

容量をオーバしてたら、新着メールは全く受信できません。

相当（何千通？）削除してますか？

サーバのメールに割り当てられてる容量がわかりませんが、容量の90％以上だと警告は出続けるとかの仕様なのでは？

メールサーバに履歴など残るような仕様は聞いたことありません。

>その都度、削除はしてますが、何も改善されないのです。

ゴミ箱も空にしてますか。

1通のメールのデータ量なんてたかがしれてるので、かなり多くのメールを消さないと、十分な空きができないのでは。

>削除しても、履歴が残ると聞いてますが、どこに残るのでしょうか？

メールサーバ（メールアカウントの提供元）の情報？

空きがなければ履歴を残す余裕も無いのでは。