Родился 15 декабря 1914 года в деревне Орлово (ныне - Демидовский район Смоленской области).

В 1941 году Щербаков был призван на службу в Рабоче-Крестьянскую Красную Армию Демидовским районным военным комиссариатом и направлен на фронт Великой Отечественной войны.Место службы: 306 сп 62 сд 31 А 3 БелФ.  Воевал наводчиком расчёта 82-миллиметрового миномёта 2-го батальона 306-го стрелкового полка 62-й стрелковой дивизии. В боях в районе деревни Червенка Щербаков со своими товарищами уничтожил до 10 солдат противника, а также подавил 4 огневые точки. Был тяжело ранен.Во время войны немцы сожгли деревню где жил Борис Ермолаевич , с жителями а также с первой женой и детьми .

После окончания войны Щербаков в звании сержанта был демобилизован. Умер 13 июля 1998 года, похоронен на кладбище деревни Дроково Демидовского района Смоленской области.

Был награждён орденом Отечественной войны 2-й степени (1985), медалями "За отвагу" в (01.09.1944) и (13.06.1944) также медалью «За победу над Германией в Великой Отечественной Войне 1941-1945 году» (09.05.1945) рядом других медалей.