Yusril memulai kariernya di bidang akademik sebagai pengajar FH UI. Lalu setelahnya Yusril mulai ditarik untuk bekerja di pemerintahan, yakni diawali dengan bergabung di Kementerian Sekretaris Negara yang kala itu dipimpin oleh Moerdiono. Di sanalah Yusril mulai bertugas menuliskan naskah pidato untuk Soeharto, termasuk pidato pengunduran dirinya pada tahun 1998.

Yusril kemudian melanjutkan pekerjaannya di era pemerintahan BJ Habibie. Lalu di era pemerintahan Abdurrahman Wahid alias Gus Dur, Yusril ditunjuk untuk menjadi Menteri Hukum dan Perundang-undangan periode 1999-2001.
Yusril tetap bekerja di kabinet selepas Megawati Soekarnoputri naik menjadi presiden, yakni menjabat sebagai Menteri Hukum dan HAM periode 2001-2004. Setelah itu, SBY melantiknya menjadi Menteri Sekretaris Negara periode 2004-2007 dan kembali bertanggung jawab menuliskan naskah pidato presiden.
Yusril juga dikenal aktif berorganisasi sejak masih muda. Hingga kemudian Yusril ditunjuk menjadi Ketua Umum Partai Bulan Bintang (PBB) ketika partai itu baru berdiri pada 17 April 1998. Sempat turun dari jabatan tersebut, Yusril lalu kembali menjadi Ketum PBB pada 26 April 2015 dan masih menjabat hingga sekarang.