1937年8月13日，淞沪抗战爆发。时任国民党军第1军军长的胡宗南率第1军赶到阵地后，“即对在吴淞登陆之敌施行猛攻。”在数十天的淞沪血战中，胡宗南作为军长与军团长，始终在前线指挥，“日夜在战场指挥抚巡，从未离去，官兵见之，无不感奋。”

9月初，胡宗南令第1军各部就地占领阵地，在杨行、蕴藻浜和纪家桥之线组织防御，阻击由宝山、吴淞扑来的日军。经过几昼夜血战，第1军伤亡惨重：第1师第1旅旅长刘超寰与第1团团长王应尊负伤，第2团团长杨杰与第4团团长李友梅殉国，营长以下军官和士兵伤亡达80%。第78师营长中除留严映皋外，其余全部阵亡。上海淞沪警备司令部参谋处作战科中校科长刘劲持回忆：“胡宗南部接防后，士气旺盛，作战顽强，对敌人寸土必争，每屋苦战，打了一个星期，始终守住阵地，因此伤亡惨重。顾祝同知道了，在电话中说今晚派某部来换防，胡才说再不换防，明天我也要拿枪上火线顶缺了。”

为了减轻日本海军炮火的威胁，胡宗南根据蒋介石转移阵地、逐次抵抗的作战方针，向南撤至刘行、顾家宅和罗店一线，继续防御作战。第1军在刘行一线激战二十余日，于1937年9月底奉命撤到昆山附近进行整补。胡宗南在多日指挥作战中，总结出日军的活动规律与我军的防守经验，对部下指示说：“现在对日作战，敌人火力占优势，我们不能单凭勇气，必须在白天少活动，利用夜间修补，加强工事，才能减少损伤，持久与敌周旋。”

10月6日，刘行一线的防线被日军突破。正在昆山附近整补的第1军奉命紧急开往前线支援。这次战斗较前更加激烈。几天下来，阵亡团长二人。营、连长以下干部则所剩无几，士兵伤亡更为惨重，又被调至后方进行第二次整补。1937年10月25日因大场失守，第1军部被令守御苏州河。正当第1军在苏州河岸苦战之际，日军援军在杭州湾北岸登陆成功，在淞沪的中国军队即将陷入被敌人前后夹击的险境。在这种情况下，胡宗南和第1军放弃阵地，一直撤退到苏州才陆续收容集结，此时各师、旅都残缺不全。第1军于11月16日退至无锡，在无锡、常州之间组织防御，与进攻日军苦战三昼夜后，由镇江渡过长江，至扬州整理一周，补充新兵三个团，然后开往浦口，参加南京保卫战。