黑龙江大学的前身——中国抗日军政大学第三分校俄文大队始创于抗日战争时期，诞生在中国革命圣地延安。1941年3月，该大队成立，目的是培养军事翻译。是年11月，为适应抗日战争形势的需要，中央决定将抗大三分校改为军事学院，原俄文队改为俄文科。1942年1月，军事学院俄文科划归中央军委第四局领导，5月成立中央军委俄文学校。   

       1944年，周恩来同志提出了为新中国准备外语干部的要求，积极主张加强外语人才的培养工作。中央决定将中央军委俄文学校扩建为包括俄文系和英文系的延安外国语学校。1946年初，党中央从培养俄文军事翻译的实际需要出发，决定把延安外国语学校迁至哈尔滨。 正值苏联社会主义革命胜利二十八周年纪念日，东北民主联军总司令部附设外国语学校正式成立，专门培养军政翻译。1948年底，东北全境解放，东北民主联军总司令部附设外国语学校改归东北局和东北人民政府领导，改名为哈尔滨外国语专门学校，成为当时培养俄文干部的主要阵地，是新中国外交家和翻译人才的摇篮。1953年我国进行大专院校调整，哈尔滨外国语专门学校改名为哈尔滨外国语专科学校，归属中华人民共和国高等教育部管理。1956年6月，经国务院批准，又更名为哈尔滨外国语学院。1958年4月，高等教育部决定将哈尔滨外国语学院划归黑龙江省管理。同年8月，中共黑龙江省委决定以哈尔滨外国语学院为基础成立我省历史上第一所综合性大学——黑龙江大学。在国家“一五”和“二五”期间，黑龙江大学为国家建设的各条战线培养和输送了大批优秀人才。文革初期，正在建设中的黑龙江大学受到了冲击，学校发展陷于停滞。1970年4月，学校恢复招生试点，以大文科、大理科的名义招收试点班学员。1972年4月，我校招收了第一批工农兵学员，这使得荒芜了六年之久的黑龙江大学有了新的生机。同年，哈尔滨外国语专科学校并入黑龙江大学。1977年黑龙江大学迎来了恢复高考后的第一批大学生，他们给学校带来了新的希望。1978年10月，中共黑龙江省委常委会议决定，撤消黑龙江大学革委会，实行党委领导下的校长分工负责制。与此同时，学校深入开展真理标准的讨论，端正思想路线，学校的教学、科研工作开始逐步走向正轨。

       改革开放以来，在六五、七五、八五期间，学校在改革中不断前进，教学、科研、科技产业等各个方面都取得了长足发展，为进一步发展奠定了坚实基础。九五以来，学校抓住了第三次全国教育工作会议、高等学校后勤社会化改革、扩招及国家科研管理体制改革等历史机遇，学科建设、教学改革、科研工作、国际交流、科技产业、后勤社会化改革等方面取得了巨大进步，学校实现了跨越式发展，进入了快速发展的轨道。1999年，黑龙江省满语研究所并入黑龙江大学；2003年，中国农业科学院甜菜研究所和黑龙江教育杂志社并入黑龙江大学；2004年，黑龙江水利专科学校并入黑龙江大学；2005年，黑龙江教育杂志社并入黑龙江大学。这些教育资源的并入，有力地增强了学校的学科和科研实力，拓宽了学校事业的发展空间。经过六十五年的积淀，二十余年的改革、发展，特别是近些年来的经营、建设，学校的社会声誉、学术地位、国内外的影响力不断提高，初步建设成为开放的现代化综合性大学。