Awalnya rumah sakit ini didirikan sebagai Klinik Bersalin oleh Yayasan Pemeliharaan Karyawan Bank Pembangunan Indonesia (Bapindo) pada tanggal 1 Maret 1960 beralamat di Jl. Gereja Theresia No. 22 Menteng, Jakarta, untuk melayani keluarga karyawan dan masyarakat sekitar. Pada bulan Desember 1971 klinik tersebut ditingkatkan menjadi Rumah Sakit Bersalin dengan nama RSB YPK yang memiliki 6 tempat tidur. Pada tahun 1978 YPK memperluas area RSB ke belakang sampai Jl. Lombok dan membangun gedung dua lantai untuk keperluan rawat inap (diresmikan tanggal 14 Agustus 1982).
Dengan bergabungnya Bapindo ke Bank Mandiri tahun 1999, YPK Bapindo dialihkan status kepemilikannya dari Bapindo ke Bank Mandiri (sebagai pendiri substitusi) pada tanggal 31 Maret 2000 dan berganti nama menjadi Yayasan Kesehatan Bank Mandiri (disingkat Yakes Mandiri). Oleh Yakes Mandiri bangunan bagian depan di Jl. Gereja Theresia dibongkar dan dibangun gedung baru berlantai 3 pada tahun 2008 (diresmikan tahun 2010) untuk memperluas ruang rawat jalan dan menambah ruang rawat inap kelas VIP dan VVIP. Nama RSB YPK diganti menjadi RSIA YPK Mandiri.
Pada 1 Juli 2013 status kepemilikan RSIA YPK diubah dari yang semula sebagai unit Yakes Mandiri menjadi sebuah perseroan terbatas bernama PT YPK Mandiri yang sahamnya dimiliki oleh Yakes Mandiri dengan PT Khyar Medik Nusantara (KMN), sebuah perseroan yang didirikan oleh para dokter RSIA YPK. Operasional sehari-hari RS dilakukan oleh PT YPK Mandiri hingga sekarang.
Sejalan dengan perkembangan jaman dan kebutuhan masyarakat, pada tahun 2017 RSIA YPK Mandiri meningkatkan cakupan layanannya dari Rumah Sakit Khusus menjadi Rumah Sakit Umum, namun dengan layanan unggulan tetap untuk ibu dan anak. RS YPK Mandiri telah beberapa kali mengikuti program akreditasi Kementerian Kesehatan RI oleh Komisi Akreditasi Rumah Sakit (KARS) dan oleh Standar Nasional Akreditasi Rumah Sakit (SNARS), lulus dengan predikat PARIPURNA. Adapun layanan unggulan RS YPK Mandiri yaitu Jakarta IVF, Jakarta Urogynecology Center, Endoscopic Gynecology Center, Maternity Care Center, Feminine Wellness, Child Health Care Service, Perinatology.
