Quân đội Pháp đánh chiếm Hà Nội năm 1882, không như năm 1873, lần này thì chúng chiếm hẳn đất đai của chúng ta. Chúng tổ chức việc cai tri thành phố, đặt các cơ cấu hành chính, mặc dù đã có tỉnh Hà Nội và thành phố Hà Nội là tỉnh lỵ của tỉnh đó. Đến năm 1888, ngưòi Pháp mới hợp pháp hóa bằng một chỉ dụ của triều đình Huế. Đồng Khánh thừa nhận đất Hà Nội là đất nhượng địa của Pháp. Năm 1896, tỉnh lỵ của Hà Nội phải dọn về Cầu Đơ và tỉnh Hà Nội thành tỉnh cầu Đơ; năm 1902, cầu Đơ là tên nôm được thay bằng tên chữ là tỉnh Hà Đông.
Đứng đầu thành phố Hà Nội là viên đốc lý, chức đốc lý là một viên quan cai trị ngạch thuộc địa Pháp; thành phố có một hội đồng thành phố, hội đồng bầu ra một viên phó đốc lý dân cử.
Đầu thế kỷ XX, địa giới thành phố Hà Nội có hẹp hơn địa giới Thăng Long cũ chút ít. Nó gần giống như hình một tam giác, đỉnh trên cùng là đầu dốc Yên Phụ, phố Lô cốt Bắc; một cạnh là bờ sông Hồng từ Yên Phụ đến Cơ Xá Nam (bên dưói Đồn Thủy) dài 4 cây số; một cạnh ở cửa ô Thanh Bảo đến Lương Yên, dài khoảng 10 cây số.
Diện tích Hà Nội thời kỳ đầu thuộc Pháp có 945 hécta, dân số khoảng chừng 100.000 người. Thành phố chia ra làm tám hộ, có hộ phố thay mặt dân quan hệ với nhà chức trách như chức lý trưởng cũ.
Cùng thời kỳ đầu Pháp thuộc đó, tình hình chính trị và xã hội chưa ổn định; người Pháp vẫn phải lo lắng về vấn đề an ninh. Khắp Trung Bắc kỳ nhiều phong trào cần vuông yêu nước vẫn hoạt động - Hà Nội thiếu sự an toàn vì ở phía nam bên kia sông Hồng có nghĩa quân Bãi Sậy ở Hưng Yên; phía bắc có nghĩa quân Đề Thám ở Yên Thế và ở chân núi Tam Đảo; phía tây trong hai tỉnh Sơn Tây, Hưng Hóa có nhóm Đề Kiều, Đốc Ngữ; năm 1898, Vưong Quốc Chính ở Từ Liêm toan đưa các đồng chí của ông vào đánh úp thành phố Hà Nội.
Vì lý do an ninh cho nội thành, năm 1899 người Pháp thành lập khu ngoại thành Hà Nội (Zone suburbaine autour de Hà Nội), gồm mấy xã của huyện Vĩnh Thuận còn ở bên ngoài đất nhượng địa và một số xã của huyện Thanh Trì. Địa giới theo đường vạch từ Nhật Tân qua cầu Giấy sang vùng Vĩnh Tuy. Nhưng đến năm 1915 thấy không còn cần thiết nữa, người Pháp trả khu ngoại thành nói trên về cho tỉnh Hà Đông và gọi nó là huyện Hoàn Long.
Sau đó ba chục năm, thành phố Hà Nội phát ưiển đến mức khuôn khổ của địa giới cũ không còn thích họp nữa. Nhà cửa phố xá kéo dài ra vùng ngoại thành theo mấy trục đường Sơn Tây, đường Hà Đông, đường Văn Điển... (Gia Lâm ở bên kia sông cũng đã thành một thị trấn đông đúc). Sự phát triển đó đặt ra nhiều vấn đề cho chính quyền thành phố: an ninh trật tự, vệ sinh công cộng, quy hoạch đường phố. Hon nữa từ sau năm 1940, tình hình chính trị ở Đông Dương có nhiều biến động, Hà Nội là thủ phủ sẽ là đối tượng hoạt động của phong trào cách mạng đang sôi sục, vành đai bên ngoài thành phố có nhiều cơ sở của Đảng Cộng sản Đông Dương.
Năm 1942, người Pháp thành lập Đại lý Hoàn Long trực thuộc tòa Đốc lý Hà Nội. Địa giới thành phố mở rộng về phía tây và phía nam, đường ranh giới đi từ làng Phú Gia qua Xuân Tảo, Dịch Vọng, vòng sang Khương Đình và đến Giáp Nhị - Yên Sở. Diện tích thành phố rộng thêm 12.000 hécta, cộng với 975 hécta cũ nội thành đã lên đến gần 13.000 hécta; dân số khoảng 300.000 người. Nội thành có 8 hộ như cũ và Đại lý Hoàn Long có 9 tổng gồm 60 xã; trị sở đặt ở ấp Thái Hà.
