問題が解決したかが分からないので、今後のことをちょっと。
High Sierra では、ウインドウを閉じる前なら以下の場所に一時ファイルがあります。動画を保存するとそのファイルは削除されます。もし「画面収録.mov」がある場合は、外付け HDD に手動でコピーできるかもしれません。
~/Library/Containers/com.apple.QuickTimePlayerX/Data/Library/Autosave Information/保存されていないQuickTime Player書類.qtpxcomposition/画面収録.mov
ちなみに、「メニューバー > ファイル > 複製」とすると、上記の一時ファイルも複製されます。
~/Library/Containers/com.apple.QuickTimePlayerX/Data/Library/Autosave Information/保存されていないQuickTime Player書類2.qtpxcomposition/画面収録.mov
画面収録.mov が存在するものの、何らかの理由で外付け HDD にコピーできなかったり、壊れていて開けない場合、ウインドウをまだ閉じておらず正常に?再生できるなら、内蔵ストレージに十分な空き容量を確保した上で QuickTime Player 上の動画を画面収録する手も考えられます。
それでもダメなら諦める他ないような。