男女离婚时候是否要退回彩礼，还需要看实际的情况是否构成了彩礼返还的条件，如果构成了彩礼返还的条件，可以依法要求退回。可以要求返还彩礼的情形包括3种：

1、给付彩礼后悔婚，双方未办理结婚登记的；

2、双方即使已经办理结婚登记手续，但确未共同生活过就离婚的；

3、婚前给付彩礼导致给付人生活困难，离婚时也可以此为由要求返还彩礼。

【法律依据】

《最高人民法院关于适用中华人民共和国婚姻法若干问题的解释(二)》第十条规定，当事人请求返还按照习俗给付的彩礼的，如果查明属于以下情形，人民法院应当予以支持：

(一)双方未办理结婚登记手续的；

(二)双方办理结婚登记手续但确未共同生活的；

(三)婚前给付并导致给付人生活困难的。

适用前款第(二)、(三)项的规定，应当以双方离婚为条件。