拡張子がMODのファイルはmpeg2の一種ですね。これを変換しなければいけません。定番はHandBrakeかffmpegxでしょうか。
http://handbrake.fr/
http://ffmpegx.softonic.jp/mac
最近.modファイルを扱っていなかったので記憶が定かでは有りませんが、これらで変換出来たと思います。
QuickTimeでmpeg2を扱うのはちょっと難しいです。mpeg2もいろいろありまして、中にはQuickTimeで扱うと音声が出ないものがあります。話が長くなるのでこちらは割愛。
確認ですが、それらのファイルはビクターのビデオカメラからコピーしたファイルでしょうか?。もしカメラ上にそのファイルが残っているのであればカメラとiMovieを直接繋げば動画の吸い出しが出来ますよ。変換作業はiMovieが行ってくれます。
macharumagedonさんがiMovieで扱える拡張子はヘルプを読むようにと書かれていますが、私もヘルプを読んでも扱えるファイルの一覧のページがどこに有るのか分からないんですよね。ヘルプの読み方が悪いのでしょうかね。
一応ヘルプの ヘルプをブラウズ>ビデオをiMovieに読み込む>他のソースから読み込む>ムービーファイルから とたどって行くとそこには
MPEG-4 ファイルフォーマット、標準(DV)ファイルフォーマット、一部の .mov ファイルフォーマットなど、さまざまなフォーマットのムービーファイルを読み込めます。
と書かれています。ユーザとしてはそのさまざまなフォーマットが具体的に何であるかを知りたいのですがここには書かれていないのですよね。
取扱説明書をとりあえず良く読めと言われても、iMovieって取扱説明書ってついてきましたでしょうか。AppleのホームページやiMovieのヘルプを斜め読みしてもmpeg2の.modファイルをiMovieで扱う時にどうするのが最適なのかは分かりませんでした。
まぁHandBreak等を使用して変換する場合はビデオフォーマットがH.264のmpeg4にしておけば大丈夫でしょう。