日軍可沒有這么好的耐心。1月2日上午10時50分（一說9時），日軍中尉兒玉利雄見談判仍無結果，急不可耐地指揮部下架起長梯強行登城。城上的中國士兵奉有不得先開火的命令，只好用石頭向下砸，這時有日軍士兵向城上投擲手榴彈，守軍將手榴彈擲回，一下將兒玉中尉炸死，并炸傷士兵兩人。日軍架設在民房之上的機槍、迫擊炮當即開火，城上守軍也放槍還擊，雙方爆發(fā)武力沖突，后世將由此而開始的事件稱為“榆關事變”或“山海關事變”。
　　事后，日本方面始終堅持是中國抗日義勇軍襲擊了日軍營地和派出所。時任偽滿山海關國境警備隊副隊長兼山海關警察派遣隊隊長的日本人柏葉勇一（1890年生，廣島縣人，后任偽滿撫順市警察局長）回憶道，1933年1月1日，在中午日本人小學校舉行的新年慶祝會上，山海關守備隊長落合甚九郎發(fā)言稱：“山海關因為是國境，所以隨時可能發(fā)生某種事變，甚至現(xiàn)在就會發(fā)生�！睍�后不久，守備隊就通知附近日僑撤入兵營。柏葉與他的副手一致回憶，當晚的爆炸是山海關警察派遣隊的分隊長國弘亮二帶領特務員佐佐木源九郎、長澤長一和阿部陸雄所為，使用的是國弘私留的奉天兵工廠所生產的木柄手榴彈，因為這種手榴彈東北軍也有裝備，可以用來制造事端、推脫責任。