德五年（1430年）进士，入选翰林院庶吉士，授编修。他的经历也颇为传奇。土木堡之变后，北京城内一片惊慌，当时还叫徐珵的徐有贞倡议南迁，结果被宦官金英赶出了大殿。徐有贞狼狈不堪出来时，在左掖门刚好碰到江渊进来，便问发生了什么事。徐有贞道：“以我议南迁不合众意。”于是江渊进入大殿后，“极陈固守之策”。他的投机正合形势，立即获得升迁，由侍讲超擢为刑部右侍郎。瓦剌进攻北京时，江渊协助于谦等保卫了京师，后历任刑部左侍郎兼翰林学士、太子太师、工部尚书等职。
景泰一朝，陈循、王文、高穀、萧镃、商辂五位内阁大学士并不和睦，陈循、王文尤为苛刻营私。而江渊好发议论，言语之间常常得罪同僚，所以“每为同官所抑”，在刑部任上时颇为失意。当时兵部尚书于谦因病告假，景帝朱祁钰下诏推选一名大臣协助处理兵部事务。江渊极想得到此职，于是到内阁活动。陈循等假意推选江渊，商辂起草完奏章后，将“石兵江工”四字给江渊看。江渊不解其意。不久诏令下达，调工部尚书石璞去兵部，以江渊代替石璞。江渊大为失望。
后明景帝朱祁钰想改立自己的儿子朱见济为太子，但没有大臣首倡，一直不得其法。当时广西土官黄为了逃脱杀兄杀侄的死罪