2002年，耿长军因参演由杨阳执导的29集电视连续剧《记忆的证明》而开始踏入演艺圈 。2006年，耿长军参与拍摄由张黎执导的历史题材电视剧《大明王朝1566嘉靖与海瑞》，在剧中饰演井上十四郎，该剧获得第26届中国电视剧飞天奖三等奖 。2007年6月，耿长军再次参演由张黎执导的人文年代剧《中国往事》，并在剧中饰演家丁常泰 ；同年10月，耿长军凭着由陆川执导的历史题材电影《南京！南京！》中饰演的一个小角色日本兵东口突围而出 。2008年，耿长军与王宝强、张国强联袂主演抗战剧《我的兄弟叫顺溜》，并在剧中饰演日军少佐阪田 。2009年，耿长军出演了喜剧电影《云下的日子》 ；之后，耿长军做客由李咏主持的央视综艺频道访谈节目《咏乐汇》；同年，耿长军与文章合作主演了抗战剧《雪豹》，他在剧中饰演重视友情高于生命的日本留学生兼军人竹下俊一角 。 2010年，耿长军在以洛阳牡丹和牡丹文化为背景的电影《甲天下》（原名《》）中饰演日本商人山田英男 ；之后，耿长军还出演了由成龙自编自导自演的动作冒险类电影《十二生肖》，在片中饰演反派角色海盗王 ；同年，耿长军除了出演抗战片《虎头要塞之最后决战》 之外，又出演了两部抗战剧《远去的飞鹰》和《黑狐》，同样都扮演日本军官这一角色 。2011年，耿长军与黄渤、高虎搭档主演了抗战剧《民兵葛二蛋》，在剧中饰演日本军官吉田 ；同年，耿长军在抗战剧《上阵父子兵》中饰演日本军官岩谷川 。2012年，耿长军作为嘉宾亮相香港粤语访谈节目《娱乐审死官》，在节目中吐露心扉表示希望减少饰演日本角色；同年，耿长军出演了抗战历史剧《独狼》 。2013年，耿长军参演由郭宝昌执导的中医题材年代剧《翻手为云覆手雨》 。2014年，耿长军主演的民族励志传奇抗战剧《冒牌英雄》上星播出，他在剧中出演一个外表儒雅，内心却十分狂热的战争狂人日军安南县最高军事指挥官武田弘毅 。2015年，耿长军参演的悬疑谍战剧《猜拳》在央视八套播出，他脱离了日本军人的角色，在剧中饰演国军司令部派驻103师代表 。2016年7月，耿长军参演的战争片《终极胜利》上映，他在片中饰演集中营司令官仓田健二 ；同时，耿长军参演的喜剧动作片《快手枪手快枪手》上映。