Sebelumnya ia menjabat sebagai Asisten Sekjen PBB dan duduk sebagai penasehat di UNITAD, sebuah lembaga di PBB yang bertugas menyelidiki kekejaman ISIS di Irak selama 2018 - 2021.
Karim, yang juga pakar hukum Islam, pernah menjadi pengacara mantan Presiden Liberia Charles Taylor, yang diadili di ICC karena dituding melakukan kejahatan perang dan HAM di Sierra Leone pada 2012.
Pakar hukum lulusan King's College, University of London, Inggris itu juga pernah menjadi kuasa hukum para korban pelanggaran HAM dan kejahatan perang Rwanda, Kamboja, dan Yugoslavia.
Namanya mulai lebih dikenal pada Maret 2023, ketika ia memohon ICC mengeluarkan surat perintah penahanan untuk Presiden Rusia Vladimir Putin, karena diduga telah melakukan kejahatan perang di Ukraina.
Sebagai balasan, Rusia pada Mei 2023 merilis surat penangkapan terhadap Karim Khan dan memasukkan namanya dalam daftar buronan.
Karim Khan lahir di Edinburgh, Skotlandia pada 30 Maret 1970. Ayahnya, yang adalah seorang dermatolog, lahir di Mardan, Pakistan. Ibunya, yang seorang perawat, lahir di Inggris.
Khan pernah menikah dengan Yasmin Rehman Mona, putri dari Kalifah keempat Komunitas Ahmadiyah, Mirza Tahir Ahmad. Setelah bercerai, ia menikah lagi dengan Dato Shyamala Alagendra, perempuan berdarah Malaysia.