Mailでサイズの大きな添付ファイルが送れない

ターミナルで
/Applications/Mail.app/Contents/MacOS/Mail -LogSocketErrors YES -LogActivityOnHost 送信サーバ名 -LogActivityOnPort 587 &> ‾/Desktop/Log.txt
とたたいてみて，実際に送信したときのエラーを眺めてみると原因の一端が分かるかもしれません。送信サーバ名とポート番号はお使いのものに変えてみてください。

お役には立たないかもしれないですが、試しに私が使っている２つのサーバ（１つはぷらら、もう１つはHPを立ち上げているサーバ）同士で、どれくらいの重さのデータを送れるか簡単な検証をしてみました。（自分のためもあるので…）
ちなみに双方のサーバ同士で、送信と受信を入れ替えてやってみました。（結果はほぼ同じでした）
検証に使ったデータはPDFのもの２つで、7.8MB（以下MB略）のものと5.0のものです。
・まず5.0+5.0の組み合わせの物は計10.0にならずなぜか計10.1ですが、余裕で送れました。
・7.8+5.0の組み合わせでは計12.8で計算通りでした。こちらも送れました。
・問題は7.8×2の場合です。合計は実際に示される計算は15.6で、ファイルサイズとしてもそのように表示されますが、送ろうとすると「サイズは21.4MBで、サーバで許可される最大サイズ20.0MBを超えている。」と警告？が出ます。で、結局送る事は出来ません。実際には20.00ぎりぎりのサイズまで送れても良さそうですが、今回はそれより小さいものでも受け付けてもらえなくなりました。サイズの計算が合わないのは、ファイルに含まれる何かが、サーバに予想以上の負荷をかけているという事でしょうか。
これが何を意味するのかは結局は分かりませんが、ご自分でもどれくらいがサーバの実際の限度なのかをいろいろと確かめてみられると良いと思います。

OS9でOUTLOOK EXPRESSを使っていた時に
似たような症状を体験しています。
お使いのメールサーバーでの
一度に送れるファイルサイズはいくらでしょうか？
もし1MBなら、送付する際に結果的に
添付ファイルのサイズが1MBを越えている可能性があります。
進行状況ウインドウを開いておくと
実際に送っているデータサイズが表示されると思いますので
そこの数値がいくらになっているかをチェックしてみるといいかもしれません。
（多分、A/Bというように表示されてAが0からBまで増えていくのではないかと。
　Bが実際に送っているデータサイズだと思います）
以上、私はMailを使っていないので参考にならない可能性も大いにありますが…

メッセージのサイズ（メールのプロトコルでは添付ファイルも文字化されて、メッセージの一部になります）は送信サーバだけでなく受信サーバも関係します。ご利用のプロバイダーに問い合わされたのかと思いますが、もしそうであれば、受信サーバ（先方のサーバ）が制限している可能性もあります。当然のことながら、どちらかがきつい制限していれば、きつい方の制限が原因になります。
ということで、これはMail.appの問題ではありません。どんなメールアプリで送ろうと同じ宛先なら同じ問題が起こります（きっと）。
添付ファイルをつけるとサイズが大きくなることがあるのは、MIMEの文字化と関係してます。画像ファイルなどはバイナリーファイルなので、そのままではメールのメッセージの一部に出来ませんので、MIME規格に従って文字化されますが、そのときにサイズが大きくなることがあります。

皆様ご教授ありがとうございます。
プロバイダーが受けられるサイズは20MまでOKだそうです。サイズ自体は3M程度
のデータですのでこの部分に問題はないと考えています。
MACが問題なのか、サーバーが問題なのかがわからないので問題追求することが
できずに困っております。
引き続きよろしくお願いいたします。

>MACが問題なのか、サーバーが問題なのかがわからないので問題追求することが
できずに困っております。
自分宛に送ってみればいいのでは？
それでokなら、先方のサーバ(宛先のアドレスを管理しているサーバ)の問題です。先方のサーバはご利用のプロバイダーとは無関係ですし、当然の事ながら宛先毎に異なるサーバになります。メールを送るときは、メール本体のデータを送る前に送信側のサーバと受信側のサーバとが情報のやり取りをします。これで受信側サーバがサイズが大きすぎて受け入れられないといえば、当然の事ながらメールデータそのものは送られません。ユーザから見ればメールが送れなかった、という単純なことになります。

Macかサーバーかの問題の切り分けは、他のアプリケーションでテストしてみればいいと思います。他のメールソフト、例えばThunderbirdで試してみて下さい。
他のソフトでうまくいけば、Mail.appとサーバーの接続が悪いという事になります。（Mail.appの不調も含めた相性問題や設定の問題）

> 受信側サーバがサイズが大きすぎて受け入れられない
かどうかは当該サーバに直接拡張SMTPコマンドをたたいてやれば分かります。
Gmail で試したところ，
250-mx.google.com at your service
250-SIZE 35651584
250-8BITMIME
250-STARTTLS
250 ENHANCEDSTATUSCODES
となっていました。

メールの経路が
MUA(A)→SMTP(a)→SMTP(b)→MUA(B)
として、はにさんは(b)のことを「受信側サーバ」と表現されているのだと思います。
ところで、(a)は(A)からのメールの転送依頼の途中で(B)のサイズ制限によるエラーメッセージを出すのでしょうか。
1.私の認識では(a)は、自分自信の制限だけでメールを一旦預かる。
2.(b)に対してメールを転送（送付）しようとする。
3.送信出来なかった時は送信者宛(A)にエラーメールを出すのだと思っていました。

> ところで、(a)は(A)からのメールの転送依頼の途中で(B)のサイズ制限によるエラーメッセージを出すのでしょうか。
いえいえ。(b)のサイズ制限です。（B)のメールボックスの大きさとは無関係に。もちろん(a)自身のサイズ制限もありますが，今回はそれがないものとして話が進んでいると思います。

あ、すみません書き間違えました。その通りです。
再度きちんと書き直し、質問します。
ところで、(a)は(A)からのメールの転送依頼の途中で(b)のサイズ制限によるエラーメッセージを出すのでしょうか。
1.私の認識では(a)は、自分自信の制限をクリアした(A)からのメールすべてを一旦預かる。（(A)の送信時にリアルタイムではエラーは返さない）
2.(a)は(b)に対してメールを転送（送付）しようとする。
3.送信出来なかった時(a)は送信者宛(A)にエラーメールを出すのだと思っていました。

いい加減なことを書くのは何なので，サイズの制限については
http://tools.ietf.org/html/rfc1870
サーバ間のやりとりについては
http://tools.ietf.org/html/rfc5321
をご覧下さい。
ただし，これらに則っていないサーバはありますし，意図的に無視しているプロバイダ（携帯のキャリアなど）があります（メールアドレスの件ではありません）ので，エラーを返さないなどのことは起こります。

いろいろ試してみましたが、サイズ限界を越えるSMTPを利用しての送信時以外
「○○○を使ってメッセージを送信出来ません」
というSMTP選択ダイアログは出てきません。
少なくともGmailとNiftyは、先方のSMTPが限界でも一旦は受け取ってしまうようです。（そのあとエラーメールが届く）
エラーになるメッセージを一旦自分宛に送ってみてはいかがでしょうか。

たびたび皆様ご教授ありがとうございます。
送信サーバーはNIFTYで、受けられるメールの許容メモリーは20Mでそこに問題は
ないようです。自分宛てにも出してみましたがSMTPを変えてくださいといういつも
のSMTPを選ぶ画面とメッセージが出て来ます。Gmailを設定して同じ3.7Mのjpeg
データを添付して送ってみましたがエラーメッセージは出ないものの送信に時間が
かかるあげくに永遠に送信中という状況になります。
アップルのサポートからはOSを完全に初期化してみてくださいとのサポートを受け
ましたがこれも治る可能性があるというレベルのようです。アーカイブスしてのOS
入れ替えはしてみましたが症状は変わりませんでした。

なんとなく Path MTU Discovery の問題のような気もしてきました。いえ気がするだけで確証はありません。