1982年，于谦考入北京市戏曲学校相声班学艺，在校期间跟随相声演员王
世臣、罗荣寿、高凤山、赵世忠学习，并拜师于相声艺术家石富宽门下。
1995年，于谦毕业于北京电影学院影视导演系大专班的进修学业，之后参与电视剧《马三立》的拍摄，饰演角色赵佩茹，1996年又出演电视剧《小井胡同》，扮演角色肥子，同时在中央电视台、北京电视台及地方台的长期栏目中担任节目编导及主持人。
1997年-1998年间，于谦与郭德纲在几次演出场合中相识。
2000年，于谦和郭德纲在北京某郊区露天广场的舞台上，表演了对口相声《拴娃娃》。这次意外的合作却让二人“毫不意外”地对彼此生出强烈欣赏。
2002年起，于谦不时与在小剧场演出的郭德纲合作表演相声。
2003年，郭德纲与于谦合作相声《你好北京》，在北京相声小品邀请赛上获得了组委会特别奖。
2004年，于谦正式加入德云社，自此于谦与郭德纲结为固定搭档。期间合作相声《你要锻炼》、《找堂会》、《养王八》、《养宠物》。
2005年，于谦与郭德纲合作相声《杨乃武》、《学聋哑》、《怪治病》。
2006年，出演电视剧《北平小姐》；12月，又与郭德纲、李菁和高峰三人拜民间艺人金文声为师，分别得名于增禄、郭增福、李增寿和高增喜。
2007年，参与电视剧《追着幸福跑》的拍摄，剧中饰演痴情男。
2008年，出演电视剧《清官巧断家务事》，片中饰演于小怀。接着又参与电视剧《拯救爱》的拍摄，剧中饰演校长。之后又与郭德纲合作相声《我要闹绯闻》、《谁动了我的减肥茶》、《你这半辈子》。
2009年，主演电视剧《天生我才》。之后与郭德纲合作相声《
我这一辈子》、《西征梦》、《我是科学家》、《托妻献子》。
2010年，主演电视剧《郭县令轶事》续集；接着又主演情景喜剧《鸡毛蒜皮没小事2》；后在电影《
越光宝盒》客串手语老师。
2011年10月16日，郭德纲和于谦及德云社部分演员，在澳大利亚悉尼市政厅举办相声专场。
2012年6月，赴加拿大进行商演，7月1日在多伦多演出。9月28日，郭德纲、于谦携德云社于28日晚在悉尼市政府进行了在澳大利亚巡演的第三站演出。
2013年，出演电影《大片》，剧中饰演黑老大。接着于谦与郭德纲首次登上中央电视台春节联欢晚会，表演节目《败家子》。
2014年，于谦重回主持界，与世熙传媒合作主持了娱乐默片脱口秀《大谦世界》，在辽宁卫视播出。
