Ancak gözü Halk müziğindeydi. Yedi yaşında iken bağlama ile tanıştı.12 yaşına geldiğinde artık tamburda çalıyordu. Şarkı söylemiyordu ama müziğin felsefesini tanımaya çalışıyordu. Konservatuar sınavlarına girdi,kazandı ve bir süre devam etti. Ancak aradığı ve düşlediği müziği bulamadığı gerekçesiyle ayrıldı. Ardından Ankara Radyosu sınavlarına girdi 20 yaşındaydı.Sınavları iftiharla kazandı, Halk Müziği'ni tercih etmişti.

Müzik aletleri içinde ona bağlama kadar yakın gelen yoktu. Sınavları kazandığı halde usulsüzlük yapıldı diye radyoya girmedi. İki yıl sonra İstanbul Radyosu'nun sınavlarına girdi, onu da iftiharla kazandı, 10 ay TRT'de çalışıp ayrıldı.

O sıralar çeşitli arayışlar içindeydi ve bütün sorunda buydu zaten. Var olan müziğin yapısından tatmin olmuyordu. Türk müziğin'de çok iyi malzeme vardı,çok iyi yerlere gelmesi mümkündü. O yıllarda böyle düşünüyordu.

TRT 'den ayrıldıktan sonra babasının da işlerinin bozulması üzerine yeniden Samsun'a dönen, ne var ki içindeki müzik tutkusu her geçen gün biraz daha yoğunlaşan Orhan Gencebay çalışmalarını bu kez İstanbul Plakçılar Çarşısın'da yoğunlaştırdı. Söz yazarı, besteci, yorumcu, bağlama sanatçısı olarak zirveye doğru uzanan bir maratona başladı. Sanatçı henüz şarkıcı olarak tanınmadan önce de bir çok bestesiyle şöhret olmuştu. "Sevemedim Kara Gözlüm ", "Koca Dünya", "Sabır Taşı" adlı besteleri, besteci Orhan Gencebay'ın tanınmasına yetmişte artmıştı bile. Hatta "Sevemedim Kara Gözlüm " adlı bestesi rekor kırmış 45 sanatçı tarafından plak yapılmıştı.

 Orhan Gencebay ses sanatçısı olarak adını ilk kez "Başa Gelen Çekilirmiş" adlı 45'lik plağı ile duyurdu ve hemen ardından "Derdim Dünyadan Büyük" adlı plağı geldi. 1969 yılında "Bir Teselli Ver" in satışını katlayarak kırdığı rekor nedeniyle çalıştığı plak şirketi tarafından "Altın Taç" ile ödüllendirildi. 1978 yılında yaptığı "Yarabbim" adlı plağı yurt içinde ve dışında yaptığı satışlarla rekor kırdı.

 Orhan Gencebay 1971 yılında İstanbul Plak'a ortak olmuş ve ilk plaklarının büyük çoğunluğu bu firmadan çıkmıştı. Sanatçı daha sonra merhum Yaşar Kekeva ile ortak olarak Kervan Plak şirketini kurdu ve kardeşi Burhan Gencebay ile birlikte çalışmalarını burada sürdürmeye başladı.Yaşar Kekeva Kervan Plak'tan ayrılıp kendi adını verdiği plak şirketini kurunca Kervan Plak Orhan ve Burhan kardeşlerin ortaklığı ile bugünlere geldi.