LANケーブルが...

　えっと、モデムコネクターとLAN(Etherね)コネクターは大きさが異なりますので
モデムに上手い事刺さるって事はLANケーブルじゃないんでは？
　確かに形は似ているけど…。
　修理じゃなくてケーブルを見直す事をお勧めします。

Ethernetケーブルだとモデム端子に刺さらないので、それはモデムケーブルでしょう。
ケーブルの端子をよく見てください。　ピンがはまる小さい溝が有りますが、数はいくつ有りますか？
４つならモデムケーブル、８つならEthernetケーブルです。
＞送られてきたLANケーブル
誰が送ってきたケーブルでしょうか？
話の流れから、ADSLモデムに付属のケーブルのような気がしますが、もう一度付属品をよく確認してください。
モデムケーブルは付属してるけど、Ethrnetケーブルは付属していないかもしれません。（ものによるけど）
ケーブルが間違っているとすると、今動いているのはたまたまです。（偶然端子の場所が有っているだけ）
モデムケーブルを、間違ってEthrnet端子に差して壊したと言う書き込みを見た事が有ります。
正しいケーブルを準備したほうがいいでしょう。　買っても1000円ぐらいだし。

試した事は無いですが、Ethernetポートにモデムケーブルを挿してとりあえずでも動くでしょうか...？
もう一つの可能性としては、Mac側Ethernetポートの破損か、ケーブルのコネクタ部分の破損も考えられると思います。
モデム側のケーブルを一旦外して、Mac側に挿していた方をモデム側に挿すと正常にロックされますか？
それがロックされるのなら、iMac側のポート破損の可能性があるのでは？
とりあえず、インターネットの接続方法はどれなのか書き込んで頂けますか？
・iMac内蔵モデムでアナログ回線接続
・iMac LANとISDNルータでISDN回線接続
・iMac LANとADSLモデムでADSL接続
・その他

状況がイマイチ見えないのですが、こう言う事ですかね。
モデムケーブルはモデム端子に、EthernetケーブルはEthernet端子につないでいる。
だけど、モデムケーブルの方はロックがかかるが、Ethernetケーブルはロックがかからない。
この場合だと、ロック用の爪が取れてなくなっているか、取れかけてロックの役目（バネとしての働き）をしてないことがあります。
どちらにしても、新しいのを送ってもらうか、買うしかないです。
良く考えたら、偶然でもモデムケーブルがそのままEthernetケーブルの代わりになるわけが無い。
信号端子の位置が違うし。(^^;

じぶんもこの前同じ症状でした。
イーサーのケーブルの表面のカバーを取ると
すんなりはまりましたよ。
同じ症状でないかも知れないので必ずとは言えませんが
参考になれば幸いです。