MTsN 2 Indragiri Hilir berawal dari MTs Sa’adah El Islamiyah, kemudian berkembang menjadi Madrasah Menengah Pertama dan PGAN 4 Tahun. Pada tahun 1978, melalui penyederhanaan struktur pendidikan madrasah berdasarkan SK Menteri Agama No. 15, 16, dan 17 Tahun 1978, PGAN 4 Tahun resmi berubah menjadi MTsN Tembilahan (MTsN 094 Tembilahan).
Madrasah mulai beroperasi pada 1979, disusul pembangunan gedung baru pada 1980 di Jalan Batang Tuaka di atas lahan seluas 8.355 m². Pada masa awal, madrasah hanya memiliki tiga ruang kelas dengan fasilitas yang masih terbatas.
Berdasarkan KMA RI No. 669 Tahun 2016, nama MTsN Tembilahan resmi berubah menjadi MTsN 2 Indragiri Hilir, yang terus berkembang sebagai madrasah berprestasi dan berdaya saing.