1953年，新中国第一所高等军事技术学府——中国人民解放军军事工程学院（世称“哈军工”）创建，是中央军委直属的正大军区级单位（高于教育部），陈赓大将为首任校长兼政委，毛泽东主席为学院的成立颁发了训词。创建伊始，学校按军兵种设立了：空军系、炮兵系、海军系、装甲兵系、工程兵系五个系，后又增设：防化兵系、原子系、导弹系、电子系、计算机系、外国留学生系，共11个系100余个专业。
哈军工是应抗美援朝战争的迫切需要孕育而生的，是毛泽东与斯大林在苏联会面期间，双方确定并组建的新中国第一所高等军事技术学府，是1953年国家“一五期间”以举国之力建设的全国唯一重点建设
1960年，根据中央军委决定，按照“尖端集中、常规分散”原则，以下常规院系进行了迁出并独立建院：炮兵工程系（现南京理工大学）、装甲兵工程系（现解放军装甲兵工程学院）、工程兵工程系（现解放军工程兵工程学院）、防化兵工程系（现解放军防化兵工程学院）、空军工程系（现解放军空军工程大学一部分、西北工业大学一部分）。
1960年到1962年，学院进行了分建和改建。学院炮兵工程系迁往武昌，与武昌高级军械技术学校合并，成立炮兵工程学院，不久又迁往南京(南京理工大学)；装甲兵工程系迁往西安，成立装甲兵工程学院。工兵工程系迁往西安，后又迁回北京，成立工程兵工程学院；原子化学防护系迁往长春，成兵工程学院(防化指挥工程学院)；空军工程系的机场建筑和气象两个专业移交给空军气象学校；学校又陆续成立原子工程系、导弹工程系、电子工程系、计算机工程系。
1966年，文革爆发。4月，根据中央军委决定，“中国人民解放军军事工程学院”退出军队序列，改名为“哈尔滨工程学院”。1970年，文革期间，哈尔滨工程学院被林彪反革命集团正式肢解，至此，哈军工办学17年，共发展出了11个系：空军系、海军系、炮兵系、装甲兵系、工程兵系、防化兵系、原子系、导弹系、电子系、计算机系、外国留学生系，共100余个专业，9600余名教员，160余名苏联专家、顾问。
