Di Bank Mandiri, karier Hery terus menanjak. Ia menjabat berbagai posisi direktur, termasuk Direktur Micro & Retail Banking (2013), Direktur Micro & Business Banking, Consumer Banking, Distributions, hingga Consumer & Retail Transaction. Puncaknya, Ia menjadi Wakil Direktur Utama dan akhirnya Plt. Direktur Utama Bank Mandiri (2020).
Maret 2020 menjadi momentum penting saat Hery mendapat tugas mengawal merger tiga bank syariah milik Himpunan Bank Milik Negara (Himbara) yakni BRI Syariah, Bank Syariah Mandiri, dan BNI Syariah menjadi PT Bank Syariah Indonesia Tbk (BSI).
Wacana merger tiga bank syariah tersebut sebenarnya telah digagas sejak Masterplan Arsitektur Keuangan Syariah Indonesia (2015). Pada 1 Februari 2021, BSI resmi lahir.
Selama menjadi Direktur Utama BSI, Hery mampu membawa bank syariah terbesar di Indonesia tersebut bertransformasi dengan catatan kinerja yang cemerlang. Bahkan, saat ini BSI telah menjadi bank syariah ke-9 terbesar dunia dari sisi kapitalisasi pasar.
Puncaknya pada 24 Maret 2025 melalui Rapat Umum Pemegang Saham Tahunan (RUPST) BRI, pemegang saham sepakat untuk mengangkat Hery sebagai Direktur Utama BRI.