苏联内务委员会第3步兵师并不是组建于战前或者困难的战争初期，实际上，该师组建于战争临近尾声的时候。 或者具体的说，苏联内务委员会第3步兵师组建于1944年3月29日的阿拉木图，该师的前身是在已经解散的苏联陆军第比利斯步兵师，苏联内务委员会第3步兵师的组建充分利用了第比利斯步兵师留下的装备和人员。 完成组建的苏联内务委员会第3步兵师下辖如下单位： 第26步兵团、第44步兵团、第289步兵团、苏联第20步兵营、师部所属工兵连、第3280号野战邮局以及其他的直属单位。 由于苏联内务委员会第3步兵师组建时间较晚且在东方组建，所以该师没有来得及参加对得德三的战争，而是就近参加了1945年8月开始的对日作战。 而在对日战争当中，苏联内务委员会第3步兵师并没有随苏联坦克冲在一线，而是在大部分后方担任清剿残余敌军，维护后方治安等任务。