1996年，在陈佩斯主演的电视剧《为了新生活前进》客 串角色 。1998年，出演许同均执导的电影《好汉三条半》 。1999年，在电视剧《楼转乾坤》饰杨望金 。2000年，在丁晟执导的电影《大惊小怪》中，饰演王天贵；同年在蔡明主演的电视剧《闲人马大姐》饰潘大庆 。2001年，在《东北一家人》饰演金老二的哥哥金老大，并演唱《东北一家人》片尾曲 。2002年，在电视剧《党员马大姐》饰潘大庆；同年在电视剧《爸爸叫红旗》饰经理 。2003年，在李幼斌主演的电影《惊心动魄》饰演角色刘金山；同年在电视剧《前门楼子九丈九》饰佟六；后又在电视剧《二哥》饰王总；后又在在电视剧《小兵张嘎》中饰胖翻译，被观众熟识 。2004年，在电视剧《人生几度秋凉》饰刘督办；后又在电视剧《国家形象》饰江东；同年刘金山受邀加盟央视春晚，与喜剧演员冯巩等合作表演小品《让一让，生活真美好》，这是他首次登上春晚舞台 。2005年，在电视剧《追杀横路靖六》饰横路靖六；同年在电视剧《杨光的快乐生活1》客串铅笔厂厂长；后又在电视剧《谁为爱情买单》饰李查得父 。2006年，和于荣光、童蕾合作，在电视剧《狼毒花》饰演母猪龙；同年在 电视剧《杨三姐告状》饰陶钰；后又在电视剧《血色玫瑰》饰郑元龙 。2007年，出演赵本山、宋丹丹主演的电影《落叶归根》，饰演黑点老板；同年在佟大为、马伊俐主演的电视剧《奋斗》中饰石康男友；后又在电视剧《闯关东》中饰吴掌柜 。2008年，与刘桦搭档，主演电影《万家灯火》；同年在在电视剧《北方有佳人》饰张宗昌；同年又在电视剧《我是一棵小草》饰胖哥 。2009年，在电视剧《中天悬剑》饰演韩东山；同年在刘惠宁执导的电视剧《我是业主》饰陈自强；后又在冯远征、陈冲主演的电视剧《人到中年》饰马科 。2010年，在徐克执导的《狄仁杰之通天帝国》饰演薛勇 ；同年8月，在赵宝刚执导的电视剧《婚姻保卫战》中刘金山和于娜饰演一对“老夫少妻” 。2012年，与演员英达、洪剑涛合作，加盟戏剧电影《我和你》 。2011年，在郭富城、陈奕迅主演的电影《全球热恋》中饰演华叔；同年刘金山又受邀加盟央视春晚，与喜剧演员冯巩等合作表演相声剧《还钱》，这是他第二次登上春晚舞台；后又在在动画片《老夫子之小水虎传奇》为大蕃薯配音，这是他首播动画作品 。 2014年，在赵宝刚执导的青春偶像剧《青年医生》中搭档孙红雷上演了一出急诊室“情”缘 ；同期在辛柏青主演的电视剧《跟我回家》中饰演大老板张总；同年12月，由金依萌执导，刘金山主演的电影《一路惊喜》也在贺岁档上映 。2015年1月，做为开年第一位嘉宾将做客北京文艺频道明星讲述栏目《光荣绽放》 。8月20日，刘金山与杨颖、倪妮合作喜剧电影《新娘大作战》上映。 同年，出演电视剧《糊涂县令郑板桥》，在剧中饰演利大反派范仁福。 2016年，参演抗战轻喜剧《迷雾1945》 。