企業稅務登記的內容發生變化的，應當自發生變化之日起30日內，持有關證件向原稅務登記機關申報辦理變更稅務登記。如果沒有在規定的期限申報辦理變更，由稅務機關責令限期改正，可以處二千元以下的罰款；情節嚴重的，處二千元以上壹萬元以下的罰款。
企業更換財務負責人而不辦理變更手續，那是屬於行政違法行為，是要受到行政處罰的。既然屬於違法行為，那稅務機關就有責任去糾正去處罰，作為財務人員，只需要把自己離職這個事實，光明正大的告訴稅務局就行了。
法律依據：《中華人民***和國會計法》 第四十壹條 會計人員調動工作或者離職，必須與接管人員辦清交接手續。
《會計基礎工作規範》 第二十五條 會計人員工作調動或者因故離職，必須將本人所經管的會計工作全部移交給接替人員。沒有辦清交接手續的，不得調動或者離職。
財務人壹定要明白，財務工作本省具有壹定的特殊性。會計人員在離職的時候必須要到稅局辦理好財務負責人變更。