1896年英国人劳海德在古城卫辉开办的西医诊所，1903年，在该诊所基础上建成博济医院，1920年，医院扩建后更名为惠民医院，1922年加拿大人维特立夫创办惠民医院护士学校，招收四年制护理专业学生并由中华护理学会(1923年名为“中华护士会”)颁发文凭，成为学校教育教学史的开端。1947年9月，冀鲁豫行署在山东省阳谷县大布乡李堂村成立卫生学校;1949年，冀鲁豫行署卫生学校和哈利逊医院从山东迁入卫辉，与惠民医院及护士学校合并，并接收解放军第三机动医院部分医护人员和干部，1950年成立平原省医科学校。1952年11月，平原省撤销，学校由华北行政委员会接管，更名为华北第二医士学校。1953年5月，国家卫生部决定，将华北第二医士学校迁往河北省通县(现北京市通州区)。1953年9月，河南省人民政府决定，将郑州第一医士学校、南阳第二医士学校、安阳卫校、濮阳护士学校及华北第二医士学校的附属医院等单位合并，在华北第二医士学校老校址，成立河南省汲县医士学校。1956年7月，省卫生厅决定，河南省汲县医士学校更名为汲县卫生学校。

新乡医学院1958年3月，河南省汲县卫生学校更名为新乡专区医学院，隶属新乡专区领导;8月，学校升格为高等医学专科学校，开始招收专科生。1959年9月，新乡专区医学院更名为河南省汲县医学专科学校。1962年，学校更名为豫北医学专科学校。1982年11月，学校升格为本科，定名为新乡医学院。1991年，学校办学主体由卫辉搬迁到新乡市新校区。1998年6月，经国务院学位委员会批准，成为硕士学位授予单位。2006年，顺利通过教育部本科教学水平评估并获得优秀。 2016年，获批为国家“十三五”中西部高校基础能力建设工程(二期)支持高校。