2001年，张胜祖参演电影《哨兵线》，客串饰演角色“张一兵” 。 2004年，张胜祖参演南东协执导的独立电影《Happy Delivery Service》，饰演“贤德” 。2005年，张胜祖通过出演音乐剧《求婚》正式出道；同年，出演音乐剧《灰姑娘的故事》与电影《On Air》 。2006年，张胜祖出演音乐剧作品《Dino & Flora》、 《Miss Saigon》 。2007年，张胜祖出演音乐剧作品《West Side Story》，饰演“Tony”；在音乐剧《补妆》中饰演“志燮”。2008年，张胜祖接连出演了音乐剧《李舜臣》中的“吉俊” ；主演《罗密欧与朱丽叶》的“罗密欧”一角 ；在《The Covenant Journey》中饰演“约瑟”；出演《色即是空》里的“达秀” 。2009年，张胜祖出演音乐剧《青的故事》，饰演“辉元” 。2010年，张胜祖参演申根浩执导电影作品《不良男女》，饰演“东烈”一角 。2011年，张胜祖主演音乐剧作品《狼的诱惑》，饰演主人公“郑泰成” ；同年，主演改编自真实拐卖儿童杀人案题材的音乐剧《Thrill Me》 。2012年，张胜祖在音乐剧《Black Mary Poppins》中饰演“汉斯” ；在音乐剧《夏洛克·福尔摩斯》中饰演“Adam Anderson”一角 ；同年，主演话剧作品《坏家伙》 ，在其中饰演“戈登” 。2013年，张胜祖接连主演音乐剧作品 《mama, Don't Cry!》、《古腾堡》、《Trace U》与话剧作品《模范生们》、《Puzzle》。2014年5月，张胜祖将重心转向电视荧屏，出演OCN电视台出品的法医学及犯罪侦查剧《神的测验4》，饰演“李才俊” ；同年10月，出演tvN有线台月火剧《欺诈游戏》，饰演30岁的国会议员辅佐官“金奉根” ；同年，出演音乐剧作品《Blood Brothers》 。2015年4月，张胜祖在MBC月火剧《华政》中，饰演“定远君” ；7月，与郑允浩、金佳恩、曹胤瑀等演员合作主演SBS Plus网络剧《指定你》，饰演广告公司经理“凯文·朱” ；7月，在MBC水木剧《夜行书生》中，饰演李允的父亲，被鬼夺去生命的“思童世子”一角 。2016年1月，张胜祖出演SBS晨间剧《我女婿的女人》，饰演KP集团本部长“崔在永” 。