Pada awal tahun 1960an, ketika sarana dan fasilitas maupun tenaga kesehatan di Kudus dan sekitarnya masih sangat minim dan jauh dari memadai. Beberapa aktivis dan tokoh GKMI Kudus seperti : Liem Wie Tan/Daud Darmawan Karunia, Lie Tjwan Tjioe, Lie Djie Ie, Kwik Tjhiang Ien/Indarto Kirana, Pdt. Sudarsohadi dan beberapa orang lainnya, terinspirasi kisah “Orang Samaria yang Murah Hati”, terpanggil dan terbeban untuk menolong sesama, khususnya di bidang kesehatan. Mereka kemudian menghubungi Yayasan Kesehatan Kristen Sekitar Muria/YKKSM, pengelola RS Kristen Tayu. YKKSM bersedia membantu, disetujui untuk mendirikan YKKSM Cabang Kudus yang akan mengelola sebuah Balai Pengobatan yang bekerja secara otonom, terpisah dari induknya.
Lokasi yang dipilih untuk Balai Pengobatan tersebut adalah sebuah bangunan yang terletak di sebelah selatan gedung gereja GKMI Kudus saat ini, tepatnya di Jl. KH Wahid Hasyim 76-78 Kudus. Tanggal 10 Juni 1964 Balai Pengobatan tersebut resmi dibuka. Dalam perkembangannya, diputuskan bahwa sudah saatnya Yayasan berdiri sendiri. Melalui Akta Notaris RM Poerbokoesoemo (Wakil Notaris dari Kantor Notaris Ny. S.R. Widarso, SH Kudus) No. 7 tanggal 16 Nopember 1967 berdirilah Yayasan Kesehatan Kristen (YKK) Kudus.
Balai Pengobatan makin berkembang dan didorong oleh visi yang kuat maka mulai direncanakan untuk mendirikan sebuah rumah sakit. Sebagai langkah awal dibelilah sebidang tanah di Desa Jati Wetan, Kudus yang kemudian di atasnya dibangun sebuah rumah sakit sederhana, hanya melayani pasien rawat inap untuk ibu melahirkan dan anak-anak dengan kapasitas 25 tempat tidur. Peresmian Rumah Sakit ini dilakukan pada tanggal 29 Januari 1969 dengan nama RS Mardi Rahayu. “Mardi“ artinya: tempat berusaha, berupaya, sedangkan “Rahayu“ artinya: selamat/sejahtera. Jadi “Mardi Rahayu“ berarti suatu tempat untuk mengusahakan keselamatan/kesejahteraan. Sejak itulah tanggal 29 Januari di peringati sebagai tanggal HUT RS Mardi Rahayu.
Tahun 1974 bangunan RS diperluas menjadi 100 tempat tidur dan secara resmi menjadi Rumah Sakit Umum. Peresmian gedung baru ini dilakukan pada tanggal 17 Desember 1974. Sejak itu dilakukan berbagai pembangunan sarana dan prasarana RS secara bertahap sehingga saat ini kapasitas RS untuk pelayanan rawat inap mencapai 345 tempat tidur. Sehubungan dengan terbitnya Undang-Undang nomor 16 tahun 2001 tentang: ”Yayasan” dan Undang-Undang nomor 28 tahun 2004 tentang: ”Perubahan atas UU No. 16 tahun 2001” maka Pengurus YKK Kudus dan Majelis Jemaat GKMI Kudus telah melakukan penyesuaian Anggaran Dasar YKK Kudus dan mendaftarkan YKK Kudus dengan nama baru: ”Yayasan Kristen Kesejahteraan Mardi Rahayu (YKKMR)” pada Departemen Hukum dan Hak Asasi Manusia RI dan telah dicatat dalam daftar Yayasan pada tanggal 28 September 2007.
Balai pengobatan makin berkembang, sehingga diputuskan untuk mendirikan rumah sakit. Berlokasi di desa Jati Wetan, Memiliki kapasitas 25 tempat tidur. Melayani rawat inap, ibu bersalin, dan anak-anak.
Pada tanggal 29 Januari 1969 diresmikan dengan nama "Rumah Sakit Mardi Rahayu". Yang mengandung makna "Tempat untuk mengusahakan keselamatan/kesejahteraan".
Rumah sakit semakin berkembang, dilakukan penambahan dan perluasan. Pada 17 Desember 1974, RS Mardi Rahayu menjadi Rumah Sakit Umum dengan kapasitas menjadi 100 tempat tidur.
Tahun 1984, pembangunan ruang perawatan imanuel. Kapasitas menjadi 145 tempat tidur.
Tahun 1989, peresmian asrama "Wisma Kasih Yesus" bantuan keluarga Fleischmann dari Jerman.
Tahun 1991, peresmian ruang perawatan betani dan ruang betesda. Kapasitas menjadi 202 tempat tidur.
Tahun 1995, peresmian ruang kana. Kapasitas menjadi 243 tempat tidur.
Tahun 1995, peresmian ruang ICU (Intensive Care Unit) dan ruang bedah.
Tahun 1997, peresmian ruang radiologi dan kapel.
Tahun 1998, peresmian gedung eva. Kapasitas menjadi 262 tempat tidur.
Tahun 2002, peresmian gedung maranatha lantai 1.
Tahun 2003, gedung maranatha operasional seluruhnya (3 lantai). Kapasitas menjadi 376 tempat tidur.
Tahun 2006, peresmian gedung rawat jalan / Out Patient Department (OPD) "Anugerah".
Tahun 2007, peresmian gedung unit stroke dan High Nursing Dependency (HND). Kapasitas tempat tidur menjadi 345 tempat tidur.
Visi RS Mardi Rahayu "Menjadi Rumah Sakit Pilihan Utama Berdasarkan Kasih di Jawa Tengah".
Motto RS Mardi Rahayu "Kesembuhan dan Keselamatan Anda adalah Kebahagiaan Kami".
19 Juli 2007, dalam rangka penyesuaian terhadap Undang-Undang Yayasan, nama Yayasan Kesehatan Kristen / YKK Kudus diganti menjadi Yayasan Kristen Kesejahteraan Mardi Rahayu / YKKMR.
9 Juli 2012, peresmian dan serah terima wisma UKRIDA.
15 Januari 2013, peresmian griya cantik esther.
28 April 2016, peresmian gedung radiologi.
29 September 2018, peresmian gedung medik sentral "Galilea".
Profesional Penuh Kasih (Compassionately Professional)
Profesional yang berarti memenuhi standar kualitas akreditasi, standar masing-masing profesi, dan ketentuan/regulasi Pemerintah
Kasih yang berarti perwujudan nilai-nilai dasar RS Mardi Rahayu
CHANGE : Cinta Tuhan, Hargai orang lain, Aku mau peduli, Nyatakan syukur dalam segala hal, GEmbira melayani Tuhan dan sesama
14 Maret 2019, peresmian instalasi hemodialisis dan instalasi rehabilitasi medik. Penambahan mesin HD menjadi 17 mesin. Serta adanya layanan baru yaitu sensori integrasi dan snoezelen pada instalasi rehabilitasi medik.
10 September 2019, pencanangan pelayanan : Penanganan Stroke Terintegrasi (PaSTi) di RS Mardi Rahayu. Penambahan kapasitas unit stroke menjadi 26 tempat tidur.
3 Desember 2019, grand opening esther mom, kid, and baby SPA.
11 Desember 2019, pemasangan stent/ring jantung pertama kali di eks Karesidenan Pati.
21 Maret 2020, RS Mardi Rahayu memulai pelayanan sebagai RS Rujukan COVID-19 lini 2 di Jawa Tengah. Ruang isolasi khusus radiologi kapasitas 4-8 tempat tidur. Operasional 21-29 Maret 2020.
24 Maret 2020, RS Mardi Rahayu mulai menggalang bantuan untuk penanganan COVID-19.
Maret 2020, ruang betesda mulai menjadi Ruang Isolasi ODP. Dengan Kapasitas 18 tempat tidur. Dan ruang isolasi khusus kana mulai operasional. Kapasitas 14 tempat tidur.
