Didirikan pada tahun 1950 M, berdirinya MI Muhammadiyah berawal dari Madrasah Wajib Belajar (MWB) pada tahun 1952 atas prakarsa dari Kyai Muh. Badarudin. Beliau adalah seorang tokoh masyarakat diwilayah Jurangombo. MWB pada mulanya adalah pondok dan madrasah. Kepedulian terhadap dunia pendidikan dan keikhlasan dalam mendidik murid-murid membawa beliau untuk membuka sebuah kelas yang kemudian menjadi cikal bakal MI Muhammadiyah Jurangombo (MI Muhammadiyah Terpadu Harapan; sekarang). Meskipun belum memiliki gedung sendiri, proses belajar mengajar MWB tetap berlangsung. Hal ini didukung keberadaan pondok pesantren yang meminjamkan sebagian ruangannya. Kondisi tersebut memicu semangat pendiri dan pengurus MWB untuk memperbaiki pondok pesantren sehingga lebih layak sebagai tempat belajar mengajar. Keinginan tersebut akhirnya terlaksana dengan kerjasama antara pendiri, pengurus dan masyarakat sekitar pondok pesantren. Nama Madrasah Ibtidaiyah (MI) Muhammadiyah didasari dengan adanya Piagam Pengakuan Kewajiban Belajar Djawatan Pendidikan Agama yang dikeluarkan departemen Agama RI dengan nomor seri: A/9/5466 tanggal 1 April 1968 di Jakarta. Dasar itu, MWB yang dikelola Kyai Muh.Badarudin berganti nama MI Muhammadiyah dipimpin oleh Bapak Margono (memimpin MI Muhammadiyah Jurangombo pada 1970-2000), Kyai Muh.Badarudin tetap aktif sebagai pengelola juga penasehat pondok pesantren sekaligus pengajar di madrasah.
Tahun 2001-2005 dengan Kepala Madrasah Suratidjah, S.Ag, beliau bertekad untuk mengembangkan MI baik secara kualitas maupun kuantitas. Berbagai program inovasi dilakukan untuk menarik calon siswa, termasuk penambahan nama madrasah menjadi MI Muhammadiyah Terpadu Harapan.
Tahun 2006-2018 Kepala MI Muhammadiyah Terpadu Harapan, Ismujiyarti, S.Ag, MM.Pd, melakukan berbagai terobosan baik kualitas, kuantitas, serta prestasi. Tahun 2018-sekarang Kepala MI Muhammadiyah Terpadu Harapan, Nina Agustien, S.Pd, terus melakukan berbagai terobosan baru baik dari segi kurikulum, kesiswaan, sarana prasarana demi mendukung value dari visi madrasah: islami, inovatif dan berprestasi, serta berfokus untuk menjadikan MI Muhammadiyah Terpadu Harapan sebagai madrasah rujukan. Tahun 2020, MI Muhammadiyah Terpadu Harapan Kota Magelang dibranding dengan sebutan MIM TELADAN. Peningkatan jumlah siswa juga semakin signifikan, dengan pencapaian jumlah siswa hingga pada tahun pelajaran 2024/2025 mencapai 284 siswa.