重複インストールしてしまった場合

では，ソフト自身がおかしくなる事があってもOSがおかしくなることはないと考えていいのでしょうか？

よく読んで下さい。そんなことはありません。インストーラーがちゃんとした物であればOSもアプリもおかしくはなりませんって。単に上書きインストールされるだけ。

Windowsだと，ソフトのインストールとアンインストールを繰り返すとOSがおかしくなってブルー画面になったりしますが

Winでもインストーラーとアンインストーラーがちゃんとしてればそんな事はないですよ。

> それとも自動で上書きされているのでしょうか？

自動もへったくれもありません。同じことを2回やれば、2回目も同じことを繰り返すだけです。結果的には、１回目の上書きになります。

Macにはレジストリーとかそういうものはありません。相当するものは *.plist ファイルでしょうか。これは，無い場合には、そのソフトの実行時に作られる（ある場合には、それが読み込まれる）ので、再インストールしても前のがなくなることはありません。このファイルの中身がおかしくなるとソフトは正常に動作しなくなります。このため、正常動作しなくなったときは、このファイルを削除するという対応で正常になることも多いです。こういうときはそのソフトを再インストールしても（*.plist ファイルは前のままなので）正常動作になりません。通常、アプリの *.plist ファイルは、〜/ライブラリ/Preferences にあります。多くの場合、*.plist ファイルの * の部分は、そのソフトの作成元、そのソフト名に関係した名前が付いてます。

インストーラーを使ってインストールするソフトは上書きされると思います。

そもそも、そのソフトの名前は？

何回も重複インストールしてしまうような独自の変なインストーラを使っていない限り、普通は上書きインストールされますよ。