十六年擢右副都御史，巡抚山西。边地军民每出塞伐木捕兽，乔新言：“此辈苟遇敌，必输情求生，皆贼导也。宜毋听阑出，犯者罪守将。”诏可。敌犯塞，偕参将支玉伏兵灰沟营，击斩甚众，进左副都御史。岁饥，奏免杂办及户口盐钞十之四。劾佥事尚敬、刘源稽狱，请敕天下断狱官，淹半载以上者悉议罪。帝称善，亟从之。召拜刑部右侍郎。山西大饥，人相食。命往振，活三十余万人，还流冗十四万户。还朝，会安宁宣抚使杨友欲夺嫡弟播州宣慰使爱爵，诬爱有异谋。乔新往勘，与巡抚刘璋共白爱诬。友夺官安置他府，播人遂安。
孝宗嗣位，万安、刘吉等忌乔新刚正，出为南京刑部尚书。沿江芦洲率为中官占夺，托言备进奉费，乔新奏还之民。初，乔新之出，中官怀恩不平。一日以事诣阁言：“新君践阼，常用正人，胡为出何公？”安等默然。既而刑部尚书杜铭罢，群望属乔新，而吉代安为首辅，终忌之，久不补。弘治改元，用王恕荐，始召乔新代铭。奏言：“旧制遣官勘事及逮捕，必赍精微批文，赴所在官司验视乃行。近止用驾帖不合符，宜复旧制，以防矫诈。”帝立报许。时吉仇正人，频兴大狱，乔新率据法直之。吉愈衔恨，数摭他事夺俸。二年夏，京城大水，乔新请恤被灾者家，又虑刑狱失平，条上律文当更议者数事，吉悉格不行。大理丞阙，御史邹鲁觊迁，而乔新荐郎中魏绅。会乔新外家与乡人讼，鲁即诬乔新受赇曲庇。吉取中旨下其外家诏狱，乔新乃拜疏乞归。顷之，穷治无验，鲁坐停俸，乔新亦许致仕。
乔新性廉介，观政工部时，尝使淮西。巢令阎徽少学于文渊，以金币馈。乔新却之，阎曰：“以寿吾师耳。”乔新曰：“子欲寿吾亲，因他人致之则可，因吾致之则不可。”卒不受。福建市舶中官死，镇守者分其赀遗三司，乔新独固辞。不得，输之于库。既家居，杨爱遣使厚致赠，且献良材可为榇者，乔新坚却之。
乔新年十一时，侍父京邸。修撰周旋过之，乔新方读《通鉴续编》。旋问曰：“书法何如《纲目》？”对曰：“吕文焕降元不书叛，张世杰溺海不书死节，曹彬、包拯之卒不书其官，而纪羲、轩多采怪妄，似未有当也。”旋大惊异。比长，博综群籍，闻异书辄借钞，积三万余帙，皆手较雠，著述甚富。与人寡合，气节友彭韶，学问友邱濬而已。