文天祥转移到汀州（治今福建长汀）、漳州、龙岩、梅州等地，联络各地的抗元义军，坚持斗争。景炎二年（1277）夏，文天祥率军由梅州出兵，进攻江西，在雩都（今江西于都）获得大捷后，又以重兵进攻赣州，以偏师进攻吉州（治今江西吉安），陆续收复了许多州县。元江西宣慰使李恒在兴国县发动反攻，文天祥兵败，收容残部，退往循州（旧治在今广东龙川西）。祥兴元年（1278）夏，文天祥得知南宋行朝移驻厓山，为摆脱艰难处境，便要求率军前往，与南宋行朝会合。由于张世杰坚决反对，文天祥只好作罢，率军退往潮阳县。同年冬，元军大举来攻，文天祥在率部向海丰撤退的途中遭到元将张弘范的攻击，兵败被俘。
文天祥服毒自杀未遂，被张弘范押往厓山，让他写信招降张世杰。文天祥说：“我不能保护父母，难道还能教别人背叛父母吗？”张弘范不听，一再强迫文天祥写信。文天祥于是将自己前些日子所写的《过零丁洋》一诗抄录给张弘范。张弘范读到“人生自古谁无死，留取丹心照汗青。”两句时，不禁也受到感动，不再强逼文天祥了。
文天祥从至元十六年（1279年）十月抵达大都到至元十九年（1282年）十二月被杀，一共被囚禁了三年两个月。这段期间，元朝千方百计地对文天祥劝降、逼降、诱降，参与劝降的人物之多、威逼利诱的手段之毒、许诺的条件之优厚、等待的时间之长久，都超过了其它的宋臣。因此文天祥经受的考验之严峻，其意志之坚定，也是历代罕见的，从《正气歌》的惊天地泣鬼神可以体现文天祥誓死不屈的精神。
