Sekolah Kebangsaan Infant Jesus Convent Johor Bahru terletak di atas sekeping tanah seluas 4 ekar pole di Jalan Yahya Awal di dalam kawasan Majlis Perbandaran Johor Bahru. Sekolah ini diasaskan oleh Rev Mother St. Francis Xavier.

Pada mulanya ia ditempatkan di dua kedai di Jalan Ibrahim dengan jumlah murid seramai 83 orang. Pada bulan Disember 1926 bangunan sekolah baru telah siap dibina di atas tapak sekarang yang dikurniakan oleh Almarhum Sultan Ibrahim Ibni Sultan Abu Bakar sendiri. Rev Mother St. Simon telah menjadi pentadbir sekolah ini dari tahun 1926-1947 dan jumlah murid telah meningkat bilangannya dari 83 kepada 595 orang. Pada mulanya murid lelaki juga diterima belajar di sekolah ini.

Pada bulan Mei 1936 kelas-kelas khas untuk murid-murid perempuan Melayu dimulakan. Murid-murid lelaki tidak lagi diterima belajar di sekolah ini lagi. Pakaian seragam sekolah diperkenalkan iaitu blaus berwarna putih dan pinafore berwarna biru bagi kesemua sekolah convent diseluruh Tanah Melayu. Murid-murid mengambil peperiksaan “Senior Cambridge” terpaksa pergi ke Singapura. Pada tahun 1939 seorang calon telah menduduki peperiksaan Senior Cambridge ketika beliau berumur 14 tahun dan telah mencapai kejayaan. Ini telah memberikan kejayaan kepada sekolah kerana dapat mengekalkan kelulusan 100%.

Semasa pemerintahan Jepun, sekolah ini terpaksa ditutup dan telah digunakan oleh pihak askar mereka. Pada tahun 1945, apabila telah ditinggalkan oleh askar Jepun, bangunan sekolah ini telah banyak musnah dan terpaksa dibaiki. Pengajaran terpaksa diadakan di Bangunan Kerjasama Negeri sehingga bulan Oktober 1945.

Pada bulan Januari 1946, bangunan sekolah yang telah rosak telah siap dibaiki dan sesi persekolahan telah kembali semula ke Jalan Yahya Awal.

Pada tahun 1951 semua “sister” yang mengajar di sekolah ini tinggal menetap di bangunan ini dan Sekolah Convent menjadi bebas semula.

Pada 3o September 1979, pukul 2.30 pagi bangunan sekolah ini telah mengalami kebakaran. Beberapa buah bilik dan kemudahan sekolah telah musnah sehingga beberapa bahagian bangunan terpaksa dibina semula termasuklah bangunan yang menempatkan Galeri Sejarah dan Perpustakaan.

Seterusnya sekolah ini diiktiraf sebagai Sekolah Kluster Kecemerlangan pada 30 Mac 2007, oleh YB Dato' Seri Hishamuddin Bin Tun Husein Onn. Semenjak itu, sekolah ini terus melahirkan ramai murid yang berkualiti dan mengharumkan nama sekolah sebagai sekolah terbaik UPSR di Negeri Johor. Sekolah ini merupakan Sekolah Keempat Terbaik UPSR peringkat Kebangsaan pada 2008.

Pada 3 Februari 2012 Sekolah Kebangsaan Infant Jesus Convent sekali lagi mengukir sejarah diiktiraf Sekolah Berprestasi Tinggi (SBT).

Kini sekolah ini mempunyai jumlah seramai 853 orang dari pelbagai kaum yang ditempatkan dalam 15 bilik darjah dalam dua sesi dengan tenaga pengajar seramai 59 orang.