Thành phố Chợ Lớn thành lập ngày 6 tháng 6 năm 1865 theo nghị định của Thống đốc Nam Kỳ, trên địa bàn một số thôn của ba tổng: Tân Phong Thượng, Tân Phong Trung và Tân Phong Hạ thuộc huyện Tân Long, phủ Tân Bình, tỉnh Gia Định. Đến ngày 3 tháng 10 năm 1865, địa giới thành phố được xác định cụ thể với diện tích gần 1 km2. Đến ngày 20 tháng 10 năm 1879, Thống đốc Nam Kỳ Le Myre de Vilers ra Nghị định công nhận thành phố Chợ Lớn là đô thị loại 2 ngang cấp tỉnh, cùng với các thành phố Tourane và Phnôm Pênh được thành lập sau này của Liên bang Đông Dương. Đứng đầu thành phố là Thị trưởng, do Thống đốc Nam Kỳ đề cử và Toàn quyền Đông Dương bổ nhiệm. Ngày 1 tháng 7 năm 1882, tuyến đường xe điện đầu tiên ở Việt Nam dài 5 kilômét, rộng 1 mét, nối Sài Gòn và Chợ Lớn bắt đầu hoạt động. Ngày 27 tháng 4 năm 1931, Tổng thống Pháp ký sắc lệnh hợp nhất thành phố Sài Gòn và thành phố Chợ Lớn thành một đơn vị hành chính mới gọi là Khu Sài Gòn – Chợ Lớn. Đứng đầu khu là một Khu trưởng, do Toàn quyền Đông Dương bổ nhiệm. Chức Thị trưởng vẫn còn tồn tại đến năm 1934, nhưng một số quyền hạn của chức này chuyển sang cho Khu trưởng. Năm 1951, Khu Sài Gòn – Chợ Lớn đổi thành Đô thành Sài Gòn – Chợ Lớn và đến năm 1956 đổi thành Đô thành Sài Gòn.