同一天，关东军东路援军司令官佐藤健二也下达了攻占黑山的命令。
以关东军79师团配属兵团重炮团主攻高家屯，107军则从侧翼迂回。
佐藤健二以为在这一地区的抗日先遣军兵力不多，又大都是八路军的部队，只需要一天就可以拿下黑山。
所以一开始并没有动用自己的嫡系，也是战斗力最强的39师团。
受他的这种轻敌思想影响，西进兵团上下都有点满不在乎，战前准备也磨磨蹭蹭，耽搁了整整一天。
直到23日一早才开始攻击第二纵队的尖子山、胡家窝棚警戒阵地。
守备这里的是37团1营7连，由于是警戒阵地，他们只构筑了简易工事，但尽管如此，7连仍巧妙运用机枪、手榴弹组成机动火力，采取近战手法，接连击退国民党军两个营的多次猛攻，直到黄昏才撤出阵地。
这样7连就为2纵赢得了一天时间，佐藤健二本来想一天拿下黑山，结果一天只拿下了仅有1个连防守的警戒阵地。
当晚，东北抗日先遣军总指挥部给2纵发来了电报，措辞更为凌厉：“盼你们加强决心，深入动员，务须使敌人在我阵地前尸横遍野而毫无进展。只要你们守住黑山三天，西逃之敌必遭全歼！”。
也就是说，2纵还必须坚守三天！而真正的鏖战还未开始，接下来的两天，每一分每一秒都将是非常艰难的。
黑山就是一道闸，24日晨六时，日本关东军投入3个师团在5个炮兵团和4架p-51“零式”战斗机掩护下向黑山全线发起攻击。
攻击重点却不是防线正中间地形比较平坦的黑山县城，而是东面地势更险峻的高家屯。
这完全出乎28师的意料，因为28师并没有将高家屯作为防御重点，在90、92和101三处高地总共才部署了一个营，而且由于这些高地都是石头山，工事很难修筑。
所以兵力、工事都是整个防线的薄弱之处。关东军的炮火相当猛烈，第一轮炮火准备就几乎将三个高地上的工事全部摧毁，守军37团2营也遭到了很大伤亡。
王怀宝随即赶到28师指挥所，从望远镜里看到整个高家屯都笼罩在硝烟之中。
王怀宝提醒28师师长康宝成，要把101高地作为防御重点，即便失守也要立即组织反击夺回。
炮火准备刚停，关东军就投入了三个大队，分别攻击石头山、92高地和101高地，同时以一个营进攻西侧的大白台子阵地，以配合在东侧高家屯的主攻。
但28师不为所动，还是将主要炮火和预备队用于东侧。一上午关东军107师团三次冲锋都被击退。
中午过后，107师团集中炮火兵力猛攻石头山，激战至十四时半，守军伤亡殆尽阵地才失守。
由于石头山失守，92高地侧翼暴露，随即遭到了西、北两个方向的攻击，很快也告失守。这样到十五时许，101高地的屏障已经全部丢失，关东军开始猛攻101高地。
与此同时，关东军在整个防线开始了全线进攻，但战斗的焦点仍然是在高家屯一线，重中之重当然是101高地。
从战斗开始，101高地就一直受到猛烈炮火轰击，此时所有的火力点都已被炮火打塌，守军也只剩下二十余人，但即便如此仍利用弹坑作为攻事，以手榴弹火力连续击退四次冲锋。
到第五次冲锋时，守军只剩下五人，手榴弹也已全部打光，因此101高地也失守了。
28师立即集中12门山炮，投入37团1、3营展开反击。国民党军经过十小时的攻势已经伤亡惨重。
现在虽然占领了高家屯一线，但立足未稳，因此很快就被37团的凌厉反击逐退，石头山、92高地和101高地都被解放军重新夺回。
入夜后，抗日先遣军的战士们不顾白天激战的疲惫，连夜抢修工事准备再战。28师也以生力军48团2营换下了伤亡殆尽的37团2营，另以37团1营和48团作为预备队。
25日一早，关东军再次向高家屯发动猛攻，进攻部队则用79师团换下了昨天的107师团。79师团没像107师团那样只会正面强攻，而是从东南迂回101高地，随后再开始正面进攻。
守备石头山的6连接连击退两次冲锋，第三次冲锋又紧接而来，火力也来不及展开，于是双方在山头上展开了白刃战。
就在这时，79师却对山头进行了炮火覆盖，双方人员全都伤亡，这样石头山失守。
92高地由于守军贸然出击，遭到炮火杀伤损失大半，剩余兵力力量太弱，因此失守。
不久黑山县城以东的94高地也被关东军迂回部队攻占。这样101高地再次陷入三面被围的困境，情况危急。
37团立即投入教导队反击94高地，教导队是对战斗骨干进行班排干部培训的单位，所以战斗力非常强悍，仅用半小时就夺回了94高地。
但101高地还是遭到了关东军的猛攻，69师团甚至组织了军官敢死队，以一波接一波的集团冲锋，终于在十六时占领了101高地。
28师师长康宝成考虑到部队伤亡很大也很疲惫，准备稍加整顿天黑后再组织反击。
但王怀宝却严令必须立即反击，因为天黑后敌人就站稳了脚跟并且工事也会得到加固，再反击势必增加困难。
王怀宝也清楚28师已经没有多少力量了，于是就调48团3营增援28师，并将全纵队所有火炮都集中到高家屯，全力支援28师的反击。
十八时，在全纵队山炮、迫击炮的猛烈炮火支援下，28师以37团和48团1营兵分四路同时开始反击。
37团1营主攻101高地，48团1营迂回配合，37团2营和3营则分别反击石头山和92高地，经过五十分钟激战，夺回92高地和101高地，再度合上了黑山这道闸门。
25日是黑山阻击战中战况最惨烈的一天，佐藤健二投入了三个师团以及全部炮兵力量，发射的大口径炮弹就将近一万发，联队规模的集团冲锋就有数十次。
抗日先遣军2纵28师坚守101、92、90等高地，顽强抗击关东军的攻击，工事毁而再修，阵地失而复得，战斗极为激烈。
在最关键的101高地，关东军发射的炮弹如同雨点般密集，战后在山上留下的弹坑多达六千六百余个，平均每平方米就落弹一发，101高地整整被削去两米，成了99高地，炮火激烈程度可见一斑。
连身经百战的王怀宝都说这是他一生中所经历的最残酷的战斗。
此时2纵也已经伤亡惨重筋疲力竭，王怀宝正在为天亮后如何继续坚守而苦苦考虑。
26日凌晨三时，接到东北抗日先遣军总部电报：“北上主力已到达。敌已溃退。望即协同三纵，四纵从黑山正面投入追击。”
—他这才明白黄昏时分反击高家屯阵地之所以如此顺利，不是关东的战斗力太弱，而是已经知道先遣军主力正在逼近，关东军预感到失败已不可避免，原先的斗志已经彻底消退了。
25日下午，佐藤健二就得到情报，从锦州赶来的抗日先遣军的主力已经到达了黑山以西不到40公里的北镇。
听到这个消息，佐藤健二非常震惊，不敢再在黑山恋战，决心迅速向营口撤退，并于黄昏下令停止向黑山进攻，兵团队尾变前锋，向台安、大洼方向转进。
自然对先遣军的反击也就没斗志迎战了，黑山阻击战就这样结束了。
与塔山阻击战不同，黑山阻击战是真正的以劣势兵力、火力抗击优势兵力、火力的惨烈之战。
2纵坚决顶住了兵力三倍于己的优势之敌三天的猛烈进攻，以伤亡2126人（其中阵亡751人）的代价歼敌余人（含后面的追歼战战果）。
黑山阻击的意义就是挡住关东军东路援军，为主力赶来赢得至为宝贵的时间，如果2纵没能守住黑山，那么接下来的围歼关东军东路援军也就无从谈起了。
从25日到27日，解放军就在黑山以东干净利落地全歼了关东军东路援军。
东北抗日先遣军总部这样评价黑山阻击：“黑山阻击战胜利争取了时间，打乱了日本关东军司令官山田乙三的作战计划，迫使敌人不得不放弃其‘西进企图’，为我军造成了辽沈平原上集中主力聚歼敌人的先决条件。”