不久，蔣介石派外交部長黃維到侵華日軍司令部談判。當黃閱抵達尹正銀行的日本總部時，福田康夫避而不見，只派他的幕僚長黑田東彥去迎接他。黑田東彥傲慢地提出，北伐軍必須立即停火，撤出日軍警戒區。黃邊回來後，向蔣介石報告，蔣介石嚴令北伐軍為了大局不得還擊。然而，日本侵略者得寸進尺。在武力解除上步區所有北伐軍武裝的同時，又派兵占領濟南鐵路局外交部長辦公室。被稱為“隱形神仙”的外交部長黃閱和他的衛隊也被解除了武裝，順從地退出了他的辦公室，轉移到北伐軍總部。
就在中國派人和日本人談判的時候，剛好有兩個日本兵被流彈打死了。日本侵略軍找了壹個挑釁的借口，大規模進攻中國的駐軍。日本侵略軍更加兇猛。無論官兵，見到誰都殺。曾經，滿大街都是屍體，血流成河。7000多名中國軍隊被迫解除武裝。
此時，蔣介石仍下令不抵抗，只命令戰地政務委員會外事辦公室主任蔡公石迅速交涉，要求日軍迅速撤退。蔡公石正要和日方談判，卻看到談判處被日軍包圍。蔡公石只好拿起電話，想通過日本駐濟南領事西田，詢問沖突原因。西田狡黠地回答:“我不知道為什麽我們之間會有誤會。雙方應立即停止戰鬥。”蔡公石又派人出去，但都被日本兵打了回來。整個部門的工作人員被圍困了壹天，又餓又累。晚上11左右，傳令兵跑來報告:“外面的日本兵撞門，異常兇猛。我們該怎麽辦？”蔡公石稍微猶豫了壹下，然後果斷決定:“開門請他們進來！”傳令兵還沒轉身，談判處的大門就被日軍槍托撞開了，20多個日本兵撞了進來。不準說燈和電話線被切斷，談判辦公室頓時陷入壹片黑暗。
在日本兵的手電照射下，日本兵徑直走進宿舍，搜槍。壹個西裝革履的日本人首先說道:“我們是來搜尋機械子彈的。白天殺的那兩個日本皇軍肯定是妳們部門的人幹的。妳的主管是誰？”蔡公石上前客氣地解釋道:“今天早上被打死的兩個日本兵，確實是被流彈打中的。不要互相誤解。我們是外交官，從不攜帶槍支。請不必搜索，避免麻煩！”日本軍官壹聲令下，除了蔡公石，其他所有人員都被綁了起來。日本兵翻遍了所有東西，搶了五包文件就走了。
過了壹會兒，另壹個日本軍官厲聲喊道:“我們已經查明，大日本帝國軍隊是被部裏人員開槍打死的，子彈交出來才能完事！”蔡公石主張應該釋放被綁架的人。日本軍官惱羞成怒，命令日本兵把蔡公石綁起來。蔡公石實在忍無可忍，就用日語罵他:“妳不懂外交禮儀，還這麽無理取鬧，不計後果！這次貴國出兵濟南，說是為了保護華僑。為什麽會趁機找麻煩，囂張跋扈，做出各種不合理的舉動？文明國家這樣做是不合適的。至於死的日本兵，如果是我們部門幹的，也應該是妳們領事過問的。中國有自己的回復，何必說那麽多。如果是高本領事的命令，妳可以壹個人去領事館交涉！”壹個會說中文的日本軍官冷笑道:“妳們蔣總司令都不敢罵日本皇軍。他想和我們談判，我們不感興趣。妳的官有多大，再大也不比蔣先生大！”日本軍官仍然不相信。他壹巴掌扇在蔡公石臉上，頓時遍體鱗傷，鮮血直流，咬牙切齒地罵道:“妳這狗日的，竟敢侮辱皇軍，送妳去見蔣總司令？他也會殺了妳，向日本皇軍道歉！”蔡公石的愛國之血如烈火燃燒，義憤填膺，痛斥他們說:“妳們這些強盜！我已經看透妳了。現在，作為壹個中國人，我譴責妳們這些強盜。”日本軍官太殘忍了，他們命令日本士兵把中國人綁在柱子上，肆意毆打他們。日本士兵被命令揮舞匕首割掉耳朵和鼻子。頓時鮮血湧出，血腥恐怖。日本強盜狂笑，像動物壹樣！那個日本軍官以為蔡公石會嚇得屁滾尿流，求饒，但看到蔡公石睜大了眼睛，就大叫道:“日本強盜禽獸不如。這國恥什麽時候才能雪過？”禽獸，中國人可殺不可辱！"
在蔡公石、張林書、交涉本部長張鴻漸和王的鼓勵下，沖過去大罵強盜。但這些喪心病狂的法西斯強盜先把張林書的耳朵鼻子切掉，再把他的腿胳膊打斷，血腥慘無人道！侵華日軍仍不松口，卻砍斷了蔡公石等人的繩索，三人壹組把他們拖出家門。蔡公石被第壹批拖到談判部的院子裏。槍聲壹響，可憐的蔡公石死了，卻沒有看到國家的統壹，在敵人不分青紅皂白的槍下犧牲了。壹聲槍響，勤務兵張漢儒倒在了地上，隨後找到了生還的機會。作為現場目擊者，他寫下了蔡公石殉難的故事，揭露了日本侵略者犯下的滔天罪行！1928年5月4日，蔣介石命令外交部長黃閱致電日本首相兼外相田中義壹，指出“這壹暴行，並非特別蹂躪中國主權，是人類所不能接受的。今天，我要向貴國政府提出嚴重抗議。請立即命令駐日士兵停止持槍射擊的暴行，立即撤走蹂躪公法、破壞條約的部隊。所有問題都應該通過正當程序解決。”日本政府根本無視這份抗議照會，置之不理。反而擴大了濟南的事態，更加瘋狂地向中國公民開火。蔣介石耐心地派羅家倫、趙、崔世傑、王等與日本談判，但都被日本轟了回來。接著，蔣介石發了壹份急電，直接在東京張群與日本當局談判。日方的意圖很明顯。他們想先控制蔣介石在濟南的勢力，逼他在城下會盟，阻止北伐軍北上，這樣日軍就能控制華北大片領土。為此，日寇不僅沒有平息事態，反而加緊進攻，企圖消滅蔣介石的壹部分勢力。
蔣介石見濟南局勢不但不能平復，反而越來越急，於是重新組織北伐軍隊，在混亂中把黃扁等人拖出濟南。逃離濟南後，蔣介石和黃閱來到黨家莊暫住。洗漱梳洗完畢，他匆匆寫了壹本書，送給日軍:“福田師惠劍主任:自本月三日不幸事件發生以來，我們的總司令以和平為重，命令部下撤離貴軍占領的地區。現在我們的軍隊都離開了經濟，繼續北伐，只留了相當數量的軍隊在城裏維持秩序。總司令今天也出發了，專門給妳師首長發了壹封信，要他查照片，並希望妳軍立即停止2日以來的壹切特別行動，以維護兩國的固有友誼。鞏遂國民革命軍總司令蔣中正特任。”
福田已經通過安置在蔣介石身邊的顧問佐佐木收到了蔣介石的口信:“革命軍為了避免混亂，絕不會與日軍發生沖突。”收到這封信後，我才知道蔣介石已經轉向北方，繼續北伐，他已經離開了濟南。他急得直跺腳，咆哮道:“糟了，北伐軍還要繼續北上，以後的事情更難辦了！”福田博介惱羞成怒，以至於5月7日下午，他向蔣介石發出最後通牒:“蔣總司令閣下，貴總司令屢次違反對中外所作的聲明。這壹次，妳指揮下的正規軍意識到了這壹不祥的事件，這是不堪設想的。這位指揮官非常抱歉。對帝國軍事總部和居民造成的所有損害，以及破壞國家名譽的賠償等。，還有待帝國政府在另壹天進行談判。這位統帥雖然不想有發言權，但他敢向妳的統帥要求以下事項:1。參與騷擾和暴行的高級武官必須受到嚴懲。2.與我軍作戰的部隊必須在日軍面前繳械。3.南斯拉夫軍隊管轄範圍內嚴禁壹切反日宣傳。第四，南軍必須撤退到濟南和吉焦路二十裏壹帶，以便孤立。5.為了監督以下事項的實施，新莊和張莊的營房應在12小時內開放。期待您在12小時內回復。臨時山東派遣第六師團團長福田彥介。”
當北伐軍將領看到這份最後通牒，只是簡單地把北伐軍當成戰敗國，把抗日將士當成投降戰俘，他們大多怒不可遏；但蔣介石不願意“以小不忍則大謀”，所以除了第二條，他準備全部接受。目前已擬出六份答復，派熊式輝和羅嘉倫去談判。
福田博介看了蔣介石的六封回信，並不滿意。他皺眉答道:“規定的時間已經過了，沒必要再談了！”福田博介粗暴地趕走了派來的使者，並立即下令進攻濟南。
在濟南警備區副司令員蘇宗哲的指揮下，濟南軍民抗擊日寇，特別是鄧團第九連長郭及其部下宣誓:“我們生為軍人，死為保家衛國。今天發生的事情，日本人迫使我們不能再忍受了！為了國家和人民，是我們犧牲國家的時候了！我們不忍，也不願親眼看著祖國河山破碎，卻被人抓住！我們要以‘有敵無我，有我無敵’的精神和決心與敵人決壹死戰！”北伐軍將士用散兵戰術的立體戰術抗擊日寇，令敵人聞風喪膽。留在濟南的、鄧兩個團，與日寇激戰三天三夜，日寇直到接到蔣介石命令撤退的密電，才不敢輕舉妄動。北伐軍撤出濟南後，11年5月的早晨，日軍舉行了壹場“炫耀國威”的儀式，開始了壹場可怕的大屠殺:向所有人開槍，割掉乳房，隨意刺死。濟南軍民死傷1.1000余人。真是血流成河，屍橫遍野。太可怕了，全世界都憤怒了！