胡宗南在刚占领延安时的得意心情这时已没有了。他向蒋介石报告了陕北的国共两方面的军事情况，说：“毛泽东现在绥德以西周家釜附近，朱德、周恩来、彭德怀、王震、贺龙亦皆在陕，企图再与我决战。故今日对陕北作战，必须更积极行动。”胡宗南说对了大部分：毛泽东、周恩来、彭德怀、王震留在陕北指挥作战。但他不知道，朱德这时已与刘少蒋介石接受了胡宗南的意见，胡部兵力暂时不能他调。他对胡宗南指示：毛泽东尚在陕北，陕北兵力暂不南调。对胡部下一步的军事行动，蒋要胡去与参谋次长刘斐协商研究。但蒋要求胡在一个半月到两个月内肃清陕北。（《胡上将宗南年谱》，沈云龙主编：《近代中国史料丛刊续编》第49辑，（台北）文海出版社有限公司印行，第196页。）胡宗南以在陕北近三个月的作战经验认识到，蒋介石的要求是不切实际无法实现的。但是，他们一致认为胡部主力需留在陕北不能他调。这正是中共与毛泽东所追求的战略目的。蒋介石与胡宗南首先在战略上失败了。
第二天，5月26日，参谋总长陈诚约胡宗南晚餐，席间商谈陕北战事，进一步确立了胡宗南军在陕北地区的作战方针与计划，决定胡部主力继续留在陕北，要千方百计侦察寻找中共中央与毛泽东隐蔽的地点，加以全歼。而胡宗南内心里越来越沉重地认识到，与中共的军事斗争将是艰难的、长期的，甚至是危险的与前途难卜的。
在这种心境下，胡宗南决定立即结婚。
5月27日，胡宗南准备从南京飞回西安。就在他向蒋介石辞行时，突然向蒋报告，他将在回西安后立即举行婚礼，请求蒋介石批准。蒋介石听了颇为吃惊，因为胡宗南提出这事实属突然。当然，他立即欣然照准，因为胡宗南的婚事已拖延多年，在国民党军政上层成为一个难解之谜。而这年，胡宗南已是虚龄52岁了。
如前所述，胡宗南在投军之前，曾在家乡浙江孝丰由家人主办娶过一房妻室。但那位夫人不久就病逝了。此后，胡宗南戎马倥偬，一直未娶，过着独居生活达二十年之久，成为全国有名的“不娶将军”。
当然，胡宗南不可能终身不娶。国民党的许多党政要人，从蒋介石到陈立夫，也都对他们这位手握重兵的将领的婚事分外关心。据说，陈立夫在抗战发生前后曾将孔祥熙的二女儿孔令俊介绍给胡。孔祥熙也有意召这位颇有声望的青年将领作婿，但胡宗南通过戴笠等友人了解到孔二小姐生活浪漫，言行奇特，不符合自己的要求，且有损自己的良将形象，乃借故推辞。他在给陈立夫的信中写了一段着名的话：“国难当头，正我辈军人抗敌御侮、效命疆场之时，匈奴未灭，何以家为？”（孟丙南：《“西北王”胡宗南》，刊（北京）全国政协文史资料研究委员会编：《文史资料选辑》第18辑，第132～133页。）后来这段话被好事者传得很远，为胡宗南的形象增光不少。胡宗南后来还多次公开向人宣布，抗战不胜利，他将不结婚，等到抗战胜利之后，他将到光复的北京城里太和殿举行婚礼。同上。从此，胡宗南就成为一位着名而又神秘的“不娶将军”。
