俱樂部於1879年由壹群教師創立，名為桑德蘭地區教師聯會（Sunderland & District Teachers Association）。及後他們加入其他行業的球員，並正式以桑德蘭足球俱樂部的名字參賽，在1885年轉為職業球隊，同年加入數名蘇格蘭球員，成為首批外援。
1890年他們加入足球聯盟，桑德蘭是英國北部最頂尖的俱樂部，在及後的6年內只輸掉1場主場比賽，並成為首支三奪聯賽冠軍的球隊。二次世界大戰後聯賽重開，但桑德蘭風光不再，在1958年降級並告別其68年連續在頂級組別參賽的記錄（阿森納後來才以79季打破記錄）。
在以後的日子裏，桑德蘭壹直徘徊於甲組和乙組聯賽之間。但1987年，更歷史性首次降至丙組聯賽，在新主教練丹尼斯·史密斯（Dennis Smith）帶領下，翌年即以丙組聯賽冠軍回升乙組。兩年後，雖然在溫布萊輸掉升級附加賽決賽，但勝利者斯文登因財政問題（非法付款）將升級席位拱手讓予桑德蘭。回升甲組後壹季即回降乙組（或英超聯成立後的甲組）比賽。
1992年桑德蘭再以次級聯賽隊伍身份在英格蘭足總杯決賽挑戰利物浦，但以0比2失敗而回。自此主教練壹職有如車輪轉，短期內更換多位主教練，包括哥士比（Malcolm Crosby）、畢查（Terry Butcher）及巴士頓（Mick Buxton）。1995年球隊戰績壹落千丈，有可能再降級，只余七場比賽，桑德蘭董事會委任彼得·裏德（Peter Reid）成為主教練，結果成功協助球隊留級並於翌年（1996年）奪得冠軍升級英超。
桑德蘭升級後由於缺乏入球能力，在首個英超賽季（1996/1997）最後壹輪比賽敗於溫布頓而終於宣布保級失敗。同年光明球場啟用，可容納42,000觀眾，其後再加建至48,000個座位，為英格蘭現時第三大的俱樂部主場。回降後首年在升級附加賽決賽以4比4戰平查爾頓，但以點球見負。翌年桑德蘭以破記錄的105分稱霸而再戰英超聯。
桑德蘭升級後渡過壹段短暫的好時光，首兩季位列第七位，僅僅錯過歐洲聯盟杯的參賽資格。2001/2002賽季桑德蘭只能維持在中下遊位置掙紮，隨著2002/2003開季差勁的表現，桑德蘭以英格蘭國家隊技術總監霍華德·威爾金森（Howard Wilkinson）取代列特，不過在列特離去後他們仍難避免再逢降級厄運。在降級前九場比賽，前愛爾蘭國家隊主教練麥卡錫（Mick McCarthy）接任，只是兩個賽季，麥卡錫再次帶領桑德蘭重返英超。
桑德蘭在2005/06賽季成績非常糟糕，28戰僅得10分，主場更未開勝利之門，2006年3月6日宣布解雇任教3年的麥卡錫，由助理教練凱·巴爾暫行職權。2006年4月16日戰平曼聯0比0後，33戰12分尚余五輪比賽，與安全線上的球隊相距17分，提早宣告降級並敬陪末席，來季回到英冠聯比賽，尚幸5月4日2-1擊敗富勒姆足球俱樂部，終於在主場打開勝利之門。賽季結束成績為3勝6和入28球得15分，打破自己在2002/03年保持英超最低得分紀錄（4勝入21球的19分）。麥卡錫在賽季進行到壹半便離任。
2006/07賽季初，俱樂部由主席已退役的愛爾蘭著名球員奎因執教了幾場比賽，戰績非常糟糕。但是，前曼聯隊長基恩正式接任主帥後，球隊突然脫胎換骨。不但在2007年4月提前確保升入英超，還最終奪得甲級聯賽冠軍頭銜，基恩獲最佳教練。
2007/08賽季開始前，球隊為了備戰英超引進了包括基蘭·理查森等的多名原在英國各級聯賽效力的球員。其中蘇格蘭門將克雷格·戈登從哈茨以900萬英鎊身價加盟，打破了英超有史以來的門將轉會費紀錄和桑德蘭的球員轉會費紀錄（原來是675萬的挪威前鋒弗洛），最終僅以3分之微排第15位避過降級厄運。
2008/09年賽季隨著球隊於2008年11月29日主場1-4負於博爾頓，桑德蘭落入降級區域的尾三位置，12月4日羅伊·基恩宣布辭職。由斯布拉吉亞接手，於成功保級後宣布離職。6月3日聘任斯蒂夫·布魯斯作為新主教練。
2012/13賽季，桑德蘭憑借在英冠的出色發揮，升至英超，並在這個賽季積分39分獲得第17位，領先維岡三分保級。
2013/14賽季，桑德蘭在聯賽獲得了14名。
2014/15賽季壹開始，桑德蘭發揮十分糟糕，深陷降級泥潭，2015年1月，荷蘭名帥艾德沃卡接任桑德蘭，壹度幫助球隊走出泥潭，2015年5月，聯賽第33輪補賽，桑德蘭在客場0：0戰平阿森納，走出降級區，提前宣告保級，比賽結束後，主教練留下了激動的淚水。賽季結束後，艾德沃卡宣布不再任職。但在黑貓的高層勸服下，在6月初傳來消息，荷蘭人神轉折留隊。