不过到了1931年，随着九一八事变爆发，日本扶植溥仪在东北成立伪满洲国，土肥原贤二再度到天津密会段祺瑞，希望段祺瑞能够出面组织华北政府，并承诺日方会给予足够的支持，但遭到段祺瑞的严词拒绝。日本人之所以看重段祺瑞，不外乎两个原因，一是段祺瑞掌国时的亲日政策，二来是段祺瑞在北洋系中举足轻重的地位。土肥原贤二初会段祺瑞时，日本在中国尚未大肆扩张，所提及的计划不外乎出钱出力挺他出来再度掌国，所以他才会应允与溥仪会晤，但是九一八事变之后日本侵华野心暴露无遗，“为国家勇于负责”的段祺瑞岂能让自己成为汉奸？
土肥原贤二入津密会段祺瑞的事情很快公开，不仅上海各团体纷纷忠告段祺瑞、吴佩孚不要被日本人利用，蒋介石更是通过国民党皖籍要员吴忠信引见，在北京饭店会晤段祺瑞的侄子段宏纲，提出希望段祺瑞南下，但其时段祺瑞已经年近七旬，想在北方颐养天年，所以没有同意。蒋介石就派人送去巨款，以保障段祺瑞一家人的日常开销。1933年1月，外间盛传日本人要劫持段祺瑞并胁迫其组织华北政府，蒋介石急忙命交通银行董事长钱永铭携蒋介石的亲笔信到天津见段祺瑞，信中蒋介石再次恳请段祺瑞“南下颐养”，并随时“就商国事”，段祺瑞自感局势动荡，遂表示“如介石认为我南下于国事有益，可以随时就道”。