Thành phố Chợ Lớn thành lập ngày 6 tháng 6 năm 1865 theo nghị định của Thống đốc Nam Kỳ, trên địa bàn một số thôn của ba tổng: Tân Phong Thượng, Tân Phong Trung và Tân Phong Hạ thuộc huyện Tân Long, phủ Tân Bình, tỉnh Gia Định. Đến ngày 3 tháng 10 năm 1865, địa giới thành phố được xác định cụ thể với diện tích gần 1 km2, chỉ là một phần quận 5 hiện nay. Đến ngày 20 tháng 10 năm 1879, Thống đốc Nam Kỳ Le Myre de Vilers ra Nghị định công nhận thành phố Chợ Lớn (Ville de Cholon) là đô thị loại 2 ngang cấp tỉnh, cùng với các thành phố Tourane và Phnôm Pênh được thành lập sau này của Liên bang Đông Dương. Đứng đầu thành phố là Thị trưởng (Maire), do Thống đốc Nam Kỳ đề cử và Toàn quyền Đông Dương bổ nhiệm. Thành phố Chợ

Ngày 1 tháng 7 năm 1882, tuyến đường xe điện đầu tiên ở Việt Nam dài 5 kilômét, rộng 1 mét, nối Sài Gòn và Chợ Lớn bắt đầu hoạt động. Theo sách Bến Nghé xưa của Sơn Nam thì Giữa Sài Gòn và Chợ Lớn phía đất thấp, chưa có dự kiến nên nối liền, còn ruộng lúa với người cày, ao nuôi vịt, ngọn rạch cạn, đợi đến năm 1916 mới bắt đầu đắp đường, trải đá ong…

Ngày 27 tháng 4 năm 1931, Tổng thống Pháp ký sắc lệnh hợp nhất thành phố Sài Gòn và thành phố Chợ Lớn thành một đơn vị hành chính mới gọi là Khu Sài Năm 1951, Khu Sài Gòn – Chợ Lớn đổòn – Chợ Lớn. Đứng đầu khu là một Khu trưởng, do Toàn quyền Đông Dương bổ nhiệm. Khu trưởng là Chủ tịch Hội đồng quản lý khu Sài Gòn – Chợ Lớn.  i thành Đô thành Sài Gòn – Chợ Lớn và đến năm 1956 đổi thành Đô thành Sài Gòn.