学校前身是创办于1924年的私立青岛大学。1930年,在省立山东大学和私立青岛大学基础上成立国立青岛大学。后历经国立山东大学、山东大学时期,1958年山东大学主体迁往济南,以留青的海洋系、水产系、地质系、生物系等为基础,于1959年3月成立山东海洋学院。1960年被国家确定为全国13所重点综合性大学之一。1988年更名为青岛海洋大学。2002年更名为中国海洋大学。