Perlahan-lahan Hariyanto Arbi menunjukkan keseriusannya di dunia bulu tangkis. Hariyanto Arbi memulai karier dengan bergabung PB Djarum. Ajang pertamanya ialah mengikuti kejuaraan Pelajar se-Asia di Hongkong pada 1986 atau pada saat itu umurnya masih 14 tahun.
Saat memasuki umur 18, Hariyanto Arbi mendapat panggilan dari Pelatnas PBSI tepatnya pada 1990. Di awal tahun mengikuti Pelatnas, Hariyanto Arbi mengaku penampilannya sempat jeblok karena harus beradaptasi.
Namun, memasuki 1992 penampilannya meningkat dengan menjuarai beberapa event besar seperti Taiwan Open hingga All England. Sampai memasuki puncaknya pada 1994 yakni ketika Hariyanto Arbi menjadi bagian Indonesia saat menjuarai Piala Thomas.
Juara di Thomas Cup untuk pertama kali menjadi momen paling membanggakan Hariyanto Arbi sepanjang kariernya. Pasalnya , saat itu nomor putra Indonesia tidak diperhitungkan lantaran terakhir kali juara pada 1984.
“Thomas Cup terakhir kali dimenangkan sama kakak tahun 1984 terakhir kali, setelah itu 10 tahun tidak menang. Waktu itu tahun 1994 saya ikut pertama kali Thomas cup dan menang. Itu paling berkesan,” katanya.
“Di sisi lain, bisa bawa Indonesia juara Thomas Cup 4 kali (1994, 1996, 1998, 2000) sama All-England, karena dulu kan kalau udah juara All England sudah rasanya waduh lain gitu. Orang Indonesia juga kan enggak banyak juga di All England dan bisa jadi andalan di nomor tunggal,” lanjutnya.
Kemudian di nomor individu, Hariyanto Arbi juga pernah keluar sebagai juara dunia 1995. Ia juga meraih medali emas nomor tunggal putra Asian Games 1994.
Sebagaimana diketahui, sepanjang karier Hariyanto Arbi mendapatkan julukan pemilik “Smash 100 watt”. Sebutan ini sebenarnya diawali dengan candaannya bersama rekannya Ardy B. Wiranata saat sedang sarapan.