自幼過繼給劉家良、劉家榮之父劉湛，由于劉湛是洪拳名家林世榮（師承黃飛鴻）的弟子，劉家輝在8歲時拜劉湛為師（但是實際上大多是受劉家良的教導(dǎo)），開始接受嚴(yán)格的正統(tǒng)武術(shù)訓(xùn)練。1971年，中學(xué)畢業(yè)后，劉家輝在日本公司當(dāng)辦公室助理，之后在朋友介紹下到連卡佛任月薪五百元的會計員，期間他繼續(xù)到武館做助教，幫忙教導(dǎo)師弟妹。他的平凡白領(lǐng)生活，一做便兩年，直到一天亦師亦友的劉家良，邀請他拍攝執(zhí)導(dǎo)的電影，出于對對方的尊重，他二話不說便答應(yīng)了。
1973年，劉家輝首部擔(dān)正由劉家良自資的動作電影《殺出重圍》而進(jìn)入電影圈，雖然主演是李琳琳、秦沛等明星，但票房不佳，反響平平。后來，隨劉家良到臺灣并被介紹進(jìn)入張徹導(dǎo)演在臺灣開設(shè)的邵氏的姐妹公司‘’長弓電影公司‘’，與公司簽約三年并擔(dān)任龍虎武師、武術(shù)指導(dǎo)（同期的有梁家仁、陸劍明）。由于張徹有姜大衛(wèi)、狄龍等人，他一直沒有機(jī)會演出重要的角色。
1976年，劉家輝與長弓電影三年約滿，遂回到香港，并在由義兄劉家良執(zhí)導(dǎo)的《陸阿采與黃飛鴻》中第二次擔(dān)任主角，不過這也沒有讓他獲得成功。
1978年，他與羅烈、汪禹及徐少強(qiáng)聯(lián)袂主演動作電影《少林三十六房》在香港上映后，劇中光頭的三德大師形象給觀眾留下深刻印象。這部電影不但是該年香港的十大賣座片，也在國外獲得不錯的回響，甚至在日本有人為劉家輝成立影友會。而劉家輝也因為這部戲被外媒稱為“東方尤爾?伯連納”。
1980年，主演動作電影《少林36房》的續(xù)集《少林搭棚大師》，劇中劉家輝不再扮三德和尚，而是以機(jī)靈幽默示人，出演一個不學(xué)無術(shù)、靠騙為生的混混兒周仁杰。
1985年，與太保、曹查理、徐少強(qiáng)聯(lián)袂主演喜劇電影《妙探I寶》。
1987年，功夫片衰落，邵氏公司也宣布停產(chǎn)不再拍攝電影，劉家輝發(fā)展開始不順，只在電影里演配角或反派。于是他決定轉(zhuǎn)型到臺灣電視圈發(fā)展，在華視以拍古裝片為主。
1988年，劉家輝返港發(fā)展，與徐少強(qiáng)自組電影公司“吸引力”，拍了四、五部作品，最終因沒有發(fā)展前景而結(jié)束合作。
1989年，劉家輝受邀加盟TVB，他也由大銀幕紅星瞬間變?yōu)樾°y幕藝員，自此他便專心在電視圈發(fā)展。
1990年，劉家輝接拍古裝武俠劇《螳螂小子》，劇中與同是練武之人的羅莽上演多場打戲。
1993年，參演由周星馳、李力持聯(lián)合執(zhí)導(dǎo)的動作喜劇片《唐伯虎點秋香》，在劇中飾演奪命書生并與周星馳飾演的唐伯虎對打。
1994年，與劉德華、鄭少秋、李嘉欣聯(lián)袂主演功夫電影《醉拳3》，飾演劇中大反派李督軍。
1999年，主演由香港電視廣播有限公司出品的古裝神話劇《人龍傳說》，在劇中飾演豪爽傲氣的涇河龍王。
2003年，劉家輝受導(dǎo)演昆汀?塔倫蒂諾之邀拍攝好萊塢動作電影《殺死比爾1》，在片中飾演瘋狂88的殺手強(qiáng)尼莫。
2004年，電影《殺死比爾2》中則飾演武林高手白眉，向烏瑪?瑟曼飾演的女主角傳授功夫。
2005年，主演電視劇《我?guī)煾凳屈S飛鴻》，在劇中大演反派莫桂蘭之父莫天龍。
2007年10月12日，劉家輝參加在深圳寶安體育館舉行的中國功夫?全球盛典并獲得最佳動作男演員。
2009年，參演由李國立執(zhí)導(dǎo)的古裝玄幻電視劇《仙劍奇?zhèn)b傳三》，在劇中飾演邪劍仙。
2010年，主演古裝動作劇《少林寺傳奇3》，在劇中將飾演及時雨這一角色。