后元二年，汉武帝生病，有一个会看天象的人说：“我们看到长安监狱的上空有天子贵人之气。”汉武帝便下令将监狱里的囚犯统统杀掉，并派郭穰连夜来到监狱。丙吉得知后立即关闭监狱门，不准郭穰进去，还说：“监狱里面是有一个无辜而又可怜的皇曾孙，无缘无故地杀死普通的人都不应该，何况这个孩子是皇帝的亲曾孙啊！”说完，丙吉就坐在监狱门口，双方一直僵持到天明。郭穰进不了监狱，便回去向汉武帝告丙吉的状。汉武帝听了禀报后，有所醒悟并说：“这大概也是天命吧！”于是下令把监狱里关的死囚一律免去死罪，皇曾孙得以保全下来，但是皇曾孙体弱多病，在一次大病痊愈后，丙吉给皇曾孙起名叫“病已”，意思是病已全好了，再也不会得病了。
丙吉知道把皇曾孙长期放在长安监狱中总不是办法，他听说有个叫史良娣的人忠厚可靠，就驾车把皇曾孙送到她家抚养。汉昭帝死后无子，造成了无继承王位之人的局面。大将军霍光与车骑将军张安世便商议如何立新帝。丙吉此时任大将军府长史、光禄大夫、给事中等职务，他对霍光说：“如今国家百姓的性命就掌握在将军手中了。皇曾孙病已寄养在民间，现年已十八九岁了。他通晓经学儒术及治国之道，平日行为谨慎，举止谦和，是理想的继承人。希望将军明大义，参考占卜的结果，先让他入宫侍奉太后，待天下人明白真相后，再决定大策，辅立即位，这是天下人的大幸啊！”霍光采纳了丙吉的话，辅佐皇曾孙登基，这就是汉宣帝。汉宣帝即位后，封丙吉为关内侯。