Communication Square

Both sentences are right.
どちらの文章も自然に使われます。
ただ、使われる状況が少し違います。

1. 朝出かけたが、今はもう帰って来ている。
「あれ？この傘どうして濡れているんだろう」
「私が使いました。朝出かけた時に雨が降っていました。」

2. 外出先で、今は晴れている。
「どうして傘を持っているんですか？」
「朝出かける時に雨が降っていました。」

※1も2も「雨が降っていました」なので、今は雨はやんでいます。

※1は「出かけた時」なので、今は出かけ終わって帰って来ている、戻ってきているイメージです。
2は「出かける時」なので、今もまだ外出中のイメージです。

私は日本人ですが、専門家ではありません。完璧に正確な日本語ではないかもしれないことをご了承ください。
私ならこのように言うだろうと考えて書きましたので、ご参考にしてください。

1と2を逆の場面で使っても、状況から判断して日本人には通じますよ！