便开始以“廉干”著闻。明宣宗朱瞻基刚一即位，便留意到于谦的名字，遂于殿廷召对。于谦相貌英伟，善谈吐，且声音洪亮，每次上朝奏对公事，语言流畅，很有条理，个人感染力也非常强，朱瞻基很是喜欢。正好汉王朱高煦反叛，朱瞻基便任命于谦为御史，随同自己御驾亲征。
皇帝亲自平叛，在声势上一下就压倒了叛军，以前同意与汉王朱高煦共同起兵的各路兵马也都按兵不动。明军很快包围了乐安[9]。朱高煦见大势已去，只得弃城投降。
朱瞻基为了羞辱叔叔，有意命于谦当众数说朱高煦的罪行。于谦嗓音高亢，义正词严，声色俱厉，气势逼人。朱高煦伏在地上，汗流浃背，战栗不已，只称罪该万死。三军将士则个个精神振奋，激动不已。自此，朱瞻基便认定于谦是一个难得的人才，可当大任。
于谦在此次平叛中以胆识过人而初露头角，朱瞻基十分满意，赏赐于谦与诸大臣相同。彼时顾佐[10]为都察院都御史，其人严明廉直，有“包青天”之称，对诸御史管理督察极严，唯独看重于谦，认为于谦才干比自己强。
次年，明廷正式设立“巡抚”，作为最高地方行政长官，其职权在都指挥使司、布政使司和提刑按察使司三司之上。明宣宗朱瞻基钦点于谦为兵