Diketahui Heru merupakan lulusan Akademi Kepolisian tahun 1985. Rekam jejak karirnya di kepolisian diawali dengan menjabat sebagai Kapolres Metro Jakarta Pusat.
Heru kemudian bertugas di Mabes Polri dan beberapa kali menempati posisi.
Dia menjabat sebagai Wakil Direktur (Wadir) II Ekonomi Khusus (Eksus) Bareskrim Polri pada 2009 dan Wadir III tindak pidana korupsi pada 2010.
Dari Bareskrim, Heru kemudian ditunjuk untuk menjadi Asisten Deputi (Asdep) 4/ V Kamnas Kemenko Polhukam pada tahun 2010. Dua tahun kemudian, dia dipercaya menjabat sebagai Kapolda Lampung menggantikan Brigjen Pol Jodie Rooseto.
Tiga tahun berselang, Heru kembali ke Kemenko Polhukam. Dia ditunjuk sebagai staf khusus Menko Polhukam Luhut Binsar Panjaitan. Dia merupakan staf ahli bidang ideologi dan konstitusi Menko Polhukam. Pada September 2015, Heru dilantik sebagai Deputi Penindakan KPK.
Diketahui sejumlah perwira tinggi (pati) dengan pangkat jenderal di tubuh Polri saat ini bisa terkena roda rotasi. Rotasi terkait adanya perwira yang pensiun maupun berpindah jabatan.
Adapun jenderal-jenderal yang banyak muncul saat ini di antaranya, Irjen Arman Depari (Deputi Penindakan BNN), Komjen Ari Dono Sukmanto (Kabareskrim), Komjen Putut Eko Bayu Seno (Kabaharkam), Komjen Suradi Alius (Kepala BNPT), Irjen M Iriawan.