Phường Cơ Xá có tên ít nhất cũng từ đời Lý (thế kỷ XI) với cái tên đầu tiên là phường Yên Xá.
Theo các cố lão được nghe truyền lại thì khỏi thủy phường Yên Xá ở trong bờ nam hồ Tây (đời Lý gọi là hồ Dâm Đàm); đầu thế kỷ XI, Lý Thái Tổ xây thành Thăng Long, một phần đất của Yên Xá ở vào chỗ thành Thăng Long mở rộng, dân ở đó phải dời ra ở phía bờ sông, hoặc đến sinh sống ở phía tây thành và hòa với dân đến sau thành khu Thập tam trại.
Làng mới Yên Xá ở ngoài bờ sông có tên là Yên Xá Châu. Yên Xá chỉ có đất bãi bồi, không có ruộng cấy lúa, nên được miễn thuế và tạp dịch, lại còn được phép thu tiền đò ngang. Lộ này được nhiều lần nhắc lại trong các sắc chiếu cùa triều đình đời Hậu Lê (năm Hồng Đức 18 Lê Thánh Tông 1489 và Vĩnh Tộ 1 Lê Thần Tông 1619).
Tên làng Cơ Xá xuất hiện năm Thiên Thuận 5 (Nhâm Tý 1132) khi Lý Thần Tông cho làng này đổi tên và sáp nhập vào đạo Kinh Bắc.
Người dân Cơ Xá sống trên đất bãi ven sông, sinh hoạt dựa vào bãi bồi và dòng nước, chủ yếu trồng dâu trồng màu và chài lưới. Vì là đất bãi hằng năm sau những con lũ, khi thì lở khi thì bồi, nên ngưòi làng nay ở bờ bên phải, mai lại ở bờ bên trái; sống trên mặt nước thì thuyền bè lênh đênh, họ cắm sào suốt dọc bờ sông, nên mới có hiện tượng phường Cơ Xá địa phận rất rộng, trải dài đến năm sáu cây số, phía bắc lên đến giáp phường Yên Hoa (Yên Phụ), phía nam xuống đến ngang đê Bình Lao, giáp bãi phường Đổng Nhân (Lương Yên); chiều ngang phường Cơ Xá gồm cả hai bên bờ sông và ở phía bắc Bãi Giữa (Trung Hà).
Bãi Giữa là làng chính của phường Cơ Xá, còn có tên là Đại Xá, gồm có:
- Cơ Xá Bắc.
Bờ bên phía tây, có khi bãi bồi nổi từ phía dưới Quảng Bá; đó là nhũng bãi dâu bạt ngàn cung cấp cho nghề chân tằm làng Nghi Tàm; một phần đất công ở đây cắt riêng lấy hoa lại cúng Phật, gọi là đất Tam Bảo Châu. Đất châu thổ không mấy khi được ổn định lâu dài nên làng xóm ở khu vục này thưa thớt khi tụ khi tán. Tuy nhiên những chỗ ở sát đê mà phía bên ttong là khu Cửa Bắc của thành phố, thì dân làng Cơ Xá vẫn bám lấy đất để làm ăn sinh sống, vừa dựa vào bãi sông, vừa dựa vào phố xá. Chỗ này là đất Nghĩa Dũng, Phúc Xá thường được nối chung với Bãi Giữa.
Từ cửa ô Phúc Lâm (tức là bến Đền Bà Móc) trở xuống đến cửa ô Tây Long, dòng sông đi sát chân đê (cả đê cũ có từ thời Lý-Trần và đê mới đắp đời Hậu Lê-Nguyễn), nên chỉ có những làng vạn chài, tức là nhà bè và thuyền đậu dọc chân đê. Đó là sáu làng thủy cơ:
Thủy cơ Biện Dương (từ bên ngoài cửa ô Phúc Lâm đến ô Ưu Nghĩa Hàng Mắm);
Thủy cơ Đông Trạch (ngang phố Bè Thượng và Bè Hạ, nay là phố Nguyễn Hữu Huân - Hàng Muối);
Thủy cơ Lãng Hồ (bên ngoài thôn Kiếm Hồ, nay là Hàng Vôi).
Thủy cơ Tự Nhiên (chỗ bến Thảo Tân, bên ngoài thôn Trừng Thanh Vọng Hà, nay là đoạn cuối Trần Quang Khải);
Thủy cơ Trúc Võng (chỗ Bến Đá, nay là chỗ Bảo tàng Lịch sử).
- Cơ Xá Nam (khu vực Đồn Thủy - Yên Xá).
Dọc bờ sông phía đông, bên trên Gia Lâm là những thôn xóm về sau mới đông nhà cửa, nhất là những năm đầu thế kỷ XX, người làng Bãi Giữa có một số gia đình muốn tránh lụt lội hằng năm, đã tậu đất tư ở ven đê bên Gia Lâm làm nhà ở, dần đông thành xóm. Đó là những xóm: Bắc cầu, Bắc Biên (đất phía ngoài đê), Yên Tân, Gia Thượng (vừa ở bên ngoài đê, vừa ở trong đồng), và Gia Tuất (ở cả bên trong đồng).
Về phương diện hành chính, đời Tự Đức (1848) làng Cơ Xá thuộc tỉnh Hà Nội huyện Thọ Xương; năm 1851, Kinh lược sứ Nguyễn Đăng Giai lại đưa sang sáp nhập vào huyện Gia Lâm tỉnh Bắc Ninh.
Đến thời Pháp thuộc, làng Cơ Xá nhiều lần bị đổi đi đổi lại. Năm 1911, những thôn Cơ Xá ở bờ sông bên phải là đất của Hà Nội và có tên là Phúc Xá, gồm các bãi An Dương, Nghĩa Dũng, Phúc Xá ở bên phía trên cầu Long Biên, và Cơ Xá Nam ở bờ sông bên trái là đất của huyện Gia Lâm.
Việc chia đôi làng Cơ Xá ra như vậy không được dân làng Cơ Xá tán thành vì nó không chú ý đến những mối quan hệ gắn bó họ hàng, tổ chức phe giáp là lối sống truyền thống của người dân nông thôn Việt Nam. Đã có những chuyện dân Phú Xá không chịu sáp nhập với Ngọc Thụy, lấy cớ là “Ngọc Thụy lắm cướp”, thực tế là họ sợ bọn đàn anh làng này bắt nạt, còn họ là dân sông nước nghèo lép vế. Hoặc dân làng Cơ Xá Nam, khi người Pháp mở rộng thành phố, lấy đê Bình Lao làm địa giới thành phố ở phía nam, đã cắt một phần đất làng đó làm đất nội thành, họ đã đệ đơn phản đối không chịu làm dân nội thành với lý do: “phải luật lệ cảnh
sát khắt khe và phải đóng thuế nhiều thứ". Tất nhiên là đơn của họ không được chấp nhận.
