Phía sau chợ Cửa Nam, bên trái đường xe lửa là địa điểm cũ của Dương Mã thành (khúc tường thành ngoài bảo vệ cho cửa thành chính); khi tường thành bị phá, hào bị lấp, thì nơi đây thành một bãi đất trống dài rộng. Mấy đường phố được quy hoạch bắt đầu ngay chỗ cửa Đại Hưng cũ này: phố Hàng Lọng được nối với phố Cột Cờ; đầu phố Cột Cờ là đầu mối các phố mới mở là phố Tuyên Quang (nay là Cao Bá Quát), phố Duvillier (Đuyviliê), Hảng Đẫy (phố Nguyễn Thái Học).
Vì phải mở rộng đường phố nên đình làng Vĩnh Xương ở ngay chỗ ngã tư phải dỡ bỏ, di về số 47 phố Cửa Nam; chỗ nền cũ của đình còn sót lại hai tám bia đá không lớn mấy; được giữ lại và gắn vào tường nhà bên cạnh.
Khu đất đằng sau chợ Cửa Nam đố - tức là đoạn đầu đường Nam Bộ và phố Nguyễn Thái Học - một thời gian dài, cho mãi đến năm 1925 chưa được xây dựng mấy. Chỗ này có tên là Hàng Đẫy; gọi tên là thế không phải vì chỗ này có những cửa hàng bán đãy (đẫy) như bên Hàng Lọng bán lọng, mà vì là chỗ đố đất rộng chưa xây dụng gì, ở cạnh chợ, nên những người buôn bán các nod đi xe hỏa về Hà Nội, mạn ngược về thì có các hàng măng, mộc nhĩ, nấm hương, lâm sản khác, ờ miền xuôi lên thì có tôm, cá khô, trứng cáy và hải sản khác, các thứ nhẹ đựng trong đây to bằng vải, đứng chờ khách ở đây để bán hàng.
Dãy nhà bên số chẵn đường phố Nam Bộ bây giờ, từ ngã tư Sinh Từ đến đường sắt, làm trên một mảnh đất dài mà hẹp, phía trước nhà quay ra mặt đường, trông sang chợ, chỉ có ba bốn nhà không có chiều sâu, cửa mở ra đường cái để bày hàng bán: hàng xén, hàng trầu cau (số 46-50); bên số lẻ chỉ có một ngôi nhà gác xây năm 1926 sát liền với chợ đó là hiệu An Thịnh (số 9-11-13). Dọc sát đường sắt là một ngõ nhỏ ăn thông sang đầu phố Đình Ngang, bên trong là những nhà lụp xụp chật chội của nhân dân lao động và buôn thúng bán mẹt.
Những chỗ đất còn bỏ trống, trước mặt một dãy nhà nữa ở phía bên trái đường xe lửa chạy qua đây, là noi tụ tập những ngưòi buôn bán chuyến đựng trong đãy. Dãy thứ hai này từ ngã tư Duvillier đến đường xe lửa có độ chừng mươi mười hai ngôi nhà (từ số 20 đến số 44), đều là nhà kiểu cũ có gác diện tích không rộng, có cửa hàng buôn bán nhưng không lớn, những người thuê nhà để ở thường thuê trên gác, những gia đình lương ít, phải chịu đựng tiếng ồn ào của bên chợ Cửa Nam, của những người bán hàng đứng vỉa hè, của xe hỏa chạy qua phố và mùi xú uế của nhà vệ sinh công cộng bên kia đường sát đường sắt.
Phố Hàng Đấy còn là dãy nhà cổ giáp với ngã tư chỗ nền đình Vĩnh Xương cũ. Một dãy độ năm sáu gian nhà nhỏ hẹp và thấp, một tầng hoặc có gác xép, làm đã lâu năm (từ số 31 đến số 43 Nguyễn Thái Học). Nhà cuối dãy, kiểu cổ một tầng hai gian là hiệu sách Kim Long; những nhà khác là những quán hàng nhỏ bán xôi cháo bánh cuốn ăn sáng, và hàng xén kim chỉ xà phòng diêm bóng đèn bồ kếp...; hiệu sách chuyên bán sách Tây, loại sách in xấu rẻ tiền, đám học sinh hiếu học ít tiền năng ra vào nhà này (chủ nhà bán sách Kim Long là nhân viên cũ bán sách cho nhà Taupỉn, bắt đầu mở của hàng từ năm 1928).
Từ dãy nhà nhỏ bé này suốt đến Văn Miếu cũng như phía bên kia mặt đường mới đắp đất còn là những hồ rộng đầy bèo lộc bình và cỏ dại.