Conocí el bien y el mal, pecado y virtud, justicia e infamia; juzgué y fui juzgado, pasé por el nacimiento y la muerte, por la alegría y el dolor, el cielo y el infierno; y al fin reconocí que yo estoy en todo y todo está en mi”
Era descendiente de Sultan Fateh Ali Tipu1​ (1750-1799), conocido como el Tigre de Mysore. Su abuelo, Maula Buksh, que fue famoso en su época como músico-poeta sufí de elevada espiritualidad, le enseñó los secretos del arte de la música devota, y tiempo después su éxito con los rajás y el público culto indio resultó extraordinario. Fue iniciado en la Orden Sufí de Khaja Moinudin Chishti por Seyed Mohammed Madani, quien lo alentó a dejar la India para visitar Occidente. Inayat Khan entonces visitó Estados Unidos en 1910, donde dio conferencias en las universidades de Columbia y Nueva York.
Al principio, viajó por Occidente como un músico, pero después viajó como un maestro de Sufismo, visitando más de tres continentes. Eventualmente se casó con Ora Ray Baker, una estadounidense de Nuevo México, y los dos tuvieron cuatro hijos: Noor-un-Nisa (1913), Vilayat (1916), Hidayat (1917) y Khair-un-Nisa (1919). La familia se estableció en Suresnes, cerca de París.
Creó centros sufíes en América y Europa, y regresó a India a finales de 1926. Ahí escogió el lugar de su tumba, el complejo Nizamuddin Dargah, y murió poco después de su decisión, en 1927.

Hazrat Inayat Khan 002.jpg