安迪·卡羅爾於就讀的若瑟·史溫學校（Joseph Swan School）加入紐卡斯爾聯青訓學院。2006年11月2日首次代表壹隊在歐洲聯盟杯作客出戰帕勒莫，在下半場替補上陣，當時年僅17歲零300日，成為紐卡斯爾聯在歐洲比賽歷來最年輕的上陣球員。
2007年1月17日英格蘭足總杯第三圈重賽，紐卡斯爾聯主場1-5慘敗給伯明翰城被淘汰，卡羅爾於最後10分鐘獲派上場，作個人代表壹隊在本土賽的處子登場。直到2月25日作客0-1負於維甘競技，他再次在比賽末段後補入替，首次在英超上陣。同年3月卡羅爾贏得“我們的傑奇·米爾本獎”（Wor Jackie Milburn Trophy），這獎項是頒予東北部每年的足球新星。4月他與俱樂部續簽新約，留隊效力直到2011年。2006/07年賽季卡羅爾為壹隊上陣7場，同時亦有為預備隊出賽，更以8球成為預備隊聯賽神射手。
2007年夏天卡羅爾代表紐卡斯爾參加了壹系列熱身賽，並且在和紐卡斯爾2-0擊敗尤文圖斯隊的比賽中打進壹球，對方門將布馮在賽後稱贊卡羅爾有壹個光明的未來。不過不久卡羅爾還是被租借到了英冠的普雷斯頓鍛煉。
在2008年返回紐卡斯爾後，多支英超球隊都提出租借卡羅爾的方案，但都為紐卡斯爾拒絕。在整個2007/08賽季下半賽季，卡羅爾沒有獲得太多出場機會，因為紐卡斯爾當時還有維杜卡、馬丁斯、和歐文等著名前鋒。2007/08下半賽季卡羅爾聯賽出場4次足總杯出場2次，沒有進球。
接下來的2008/09賽季，卡羅爾獲得了更多的出場機會。他在2009年1月對陣西漢姆聯的比賽中打進了他代表紐卡斯爾聯的第壹個正式比賽入球，幫助紐卡斯爾避免了三連敗的命運，引起了世人的關註，賽後助理領隊克裏斯·休頓（Chris Hughton）盛贊這名自家培訓的球員。。1月28日作客對曼城，卡羅爾雖然射入壹球，球隊仍以1-2落敗而回。紐卡斯爾很快與其簽署新合同直至2013年。同時他亦獲征召入英格蘭U-20，備戰對意大利的友誼賽。4月11日他在保級大戰對斯托克城於81分鐘頂入球扳平1-1，為臨時領隊阿蘭·希勒取得上任後的第壹分，但是卡羅爾的出色表現沒能挽救紐卡斯爾，他們在2009賽季末降入英冠聯賽。 在頂級聯賽角逐16年後重返次級聯賽作賽。
卡羅爾選擇了跟隨紐卡斯爾聯參加英冠聯賽，在2009年9月對陣布萊克浦的比賽中打入了他的賽季第壹球，接應喬伊·巴頓傳中在遠柱頂入，他吸吮拇指慶祝，將入球獻給新生的女兒。此後就壹發不可收拾。整個賽季他幾乎沒有缺席比賽，打進17球幫助紐卡斯爾聯隊奪得英冠聯賽冠軍重返英超。在這壹年裏卡羅爾取得了長足的進步，阿森納主教練溫格就贊揚他在12個月裏能力提高了壹大截。賽季中已經有多支英超球隊嘗試引進這位鋒線新星，但是被紐卡斯爾主教練克裏斯·休頓嚴詞拒絕，卡羅爾也表示忠於喜鵲。
在2010/11賽季的英超聯賽，卡羅爾獲得了代表著紐卡斯爾聯隊傳奇的9號球衣，紐卡斯爾歷史上的多名傳奇前鋒都身穿9號：傑基·米爾本、馬爾科姆·麥克唐納德以及阿蘭·希勒，紐卡斯爾球迷也希望卡羅爾能繼承前輩阿蘭·希勒的事業，因為他跟希勒壹樣都是強壯的高中鋒，而且他們都是紐卡斯爾人。而在這個賽季卡羅爾的確沒有辜負人們的期望，在聯賽第二輪對陣阿斯頓維拉的比賽中就上演了帽子戲法，其後他在對陣阿森納、利物浦和死敵桑德蘭的比賽中都有進球。在整個2010/11賽季英超前半段中，卡羅爾出場19場就打進11球，名列英超射手榜第三位，成為了英超最炙手可熱的前鋒。出色的表現使得紐卡斯爾俱樂部趕緊與他簽署了新的合同到2015年，而他也在2010年11月第壹次入選了英格蘭國家隊。 卡羅爾在英超賽場上的出色表現引起了多家豪門的關註，但紐卡斯爾方面壹直拒絕放走這位前途無量的前鋒。2011年1月底，利物浦隊主力前鋒托雷斯表達了要轉會至切爾西隊的願望，利物浦在挽留失敗後迅速向卡羅爾提出報價。在第壹次報價3000萬英鎊的提議被紐卡斯爾方面拒絕後，利物浦將報價提到3500萬英鎊終於獲得了紐卡斯爾聯隊的同意。北京時間2月1日淩晨，在歐洲冬季轉會市場關閉的最後壹刻，利物浦隊成功簽下了安迪·卡羅爾，雙方簽約五年半，而與此同時托雷斯加盟切爾西。卡羅爾高達3500萬英鎊的身價創下了多項紀錄：他是英格蘭球員歷史上身價最高的球員；也是紐卡斯爾聯隊歷史上獲得的最高的轉會費；同時也超過托雷斯成為利物浦歷史上身價最高的球員。卡羅爾在利物浦依然會身披9號球衣。
加盟利物浦後，卡羅爾聲稱自己是被紐卡斯爾俱樂部強迫轉會的，因為紐卡斯爾方面只想得到更多的錢，而他自己是不願意離開家鄉球隊的。但是這種說法為紐卡斯爾方面所駁斥，紐卡斯爾指責卡羅爾以利物浦的邀請相要挾俱樂部再簽新約，但俱樂部數月前才和他續約過，不可能答應他的要求，於是卡羅爾提出了轉會申請。紐卡斯爾球迷都認為卡羅爾是個叛徒。
卡羅爾轉會利物浦初受傷病困擾，直到2011年3月6日，他才在對曼聯的聯賽中替補出場完成首秀。2011年4月11日，利物浦主場對陣曼城卡羅爾射入他在利物浦的處子入球並且梅開二度，助球隊3-0大勝。而他在利物浦的第壹個賽季則於聯賽上陣7場，取得兩個入球，連同歐洲賽則總***上陣9場。而加上他在紐卡斯爾聯的19次上陣，11個入球，則他全季聯賽上陣26場，攻入13球。 2012年8月30日，卡羅爾被租借到西漢姆聯隊，租期壹年，租借費100萬鎊，西漢姆聯隊有1700萬優先買斷權。卡羅爾開啟個人的鐵錘幫生涯。在西漢姆的賽季並不順利，在代表西漢姆出場過幾次以後，並遭遇傷病困擾，要修養數月，2013年2月回歸，並在主場對陣斯旺西的比賽中攻入致勝進球幫助球隊獲得寶貴的三分。
北京時間2013年6月19日晚間，利物浦在官方網站上宣布，高中鋒卡羅爾已經確定將轉會西漢姆，雙方已經就轉會費談妥，但具體數字並未對外披露，這位英格蘭國腳與鐵錘幫簽訂了壹份長達6年的合同。
2011年1月轉會的最後時刻，為了填補托雷斯離隊的空缺，利物浦斥資3500萬鎊從紐卡斯爾引進卡羅爾，但他為紅軍出場58次只打入11球，2012-13賽季租借到西漢姆後，卡羅爾在24場比賽中打入7球，這也讓鐵錘幫決定正式引進他。