T-12于1955年服役,取代BS-3100毫米野炮,通常装备坦克兵或摩托化步兵的反坦克单位,以在快速推进过程中保护侧翼不遭到敌方反击。到70年代,苏军的每个摩托化步兵师属独立反坦克营有3个T-12反坦克炮连(每连6门),而在导弹化反坦克兵器普及之后,独立反坦克营中的1-2个连则被装备了反坦克导弹的BRDM-2装甲侦察车所替代。 到1970年生产转换到采用了新的滑膛炮2A29的T-12A或称MT-12"剑"型号上,这种型号还重新设计了底盘和炮盾以在机枪火力和弹片下保护成员。由于新设计的底盘的轮基更大,MT-12也可以由MT-LB牵引,此时其公路速度为60千米每小时,越野速度则为25千米每小时。