Pada awalnya wilayah Propinsi Sumatera Utara terdapat banyak institusi Akademi Kesehatan baik dari Depkes, Pemda, TNI/POLRI dan Swasta. Khususnya institusi pendidikan dibawah naungan Depkes ada 9 (sembilan) yaitu:
- Akademi Keperawatan di Medan
- Akademi Gizi di Lubuk Pakam
- Akademi Kesehatan Lingkungan di Kabanjahe
- Akademi Kebidanan di Medan
- Akademi Kebidanan di Pematang Siantar
- Akademi Kebidanan di Padang Sidimpuan
- Akademi Farmasi di Medan
- Akademi Kesehatan Gigi di Medan
- Akademi Analis Kesehatan di Medan
Akademi Keperawatan di Medan berdiri pada tahun 1995 dengan nama Pendidikan Ahli Madya (PAM) Keperawatan Medan, dan pada tahun 1999 melembaga menjadi Akademi Keperawatan. Akademi Gizi berawal dari Sekolah Pembantu Ahli Gizi (SPAG) yang didirikan pada tahun 1982 dan tahun 1992 dikonversi menjadi D-III Akademi Gizi. Tahun 1996 berubah namanya menjadi Pendidikan Ahli Madya (PAM) Gizi dan pada tahun 1999 melembaga menjadi Akademi Gizi. Kesehatan Lingkungan di Kabanjahe berawal dari Sekolah Pembantu Penilik Hygiene (SPPH) Medan yang berdiri tahun 1975. Pada tahun 1988 statusnya menjadi D-III bidang Sanitasi dan Kesehatan Lingkungan (SKL). Pada tahun 1991 dikonversi menjadi PAM SKL dan pada tahun 1999 melembaga menjadi Akademi Kesehatan Lingkungan. Akademi Kebidanan Medan berawal dari Sekolah Bidan yang didirikan pada tahun 1954, kemudian berubah menjadi Sekolah Juru Kesehatan tahun 1968 dan berubah menjadi Sekolah Sekolah Pengatur Rawat A (SPRA). Pada tahun 1975 berubah menjadi Sekolah Perawat Kesehatan (SPK), tahun 1998 dikonversi menjadi Akademi Kebidanan Depkes RI Medan. Akademi Kebidanan Pematang Siantar berawal dari Sekolah Perawat Kesehatan Pemda TK.I Propinsi Sumatera Utara yang berdiri tahun 1977 sampai tahun 1990. Pada tahun 1990 statusnya berubah menjadi SPK Depkes R.I Pematang Siantar dan tahun 1998 dikonversi menjadi Akademi Kebidanan Depkes Pematang Siantar. Akademi Kebidanan Padang Sidimpuan, mulai tahun 1968 sampai tahun 1976, dari Sekolah Bidan dengan latar belakang siswa lulusan SMP. Pada tahun 1977 berubah mendidik siswa SPK, sedangkan Akademi Kebidanan adalah konversi dari SPK pada tahun 1988. Akademi Farmasi berawal dari Sekolah Pengatur Obat (SPO) yang didirikan pada tahun 1958, tahun 1976 berubah menjadi Sekolah Asisten Apoteker (SAA), tahun 1982 berubah menjadi Sekolah Menengah Farmasi (SMF) dan pada tahun tahun 1998 dikonversi menjadi D-III Akademi Farmasi Depkes Medan. Akademi Kesehatan Gigi berawal dari dari Sekolah Pengatur Rawat Gigi yang didirikan pada tahun 1962. Kemudian pada tahun 1998 dikonversi menjadi D-III Akademi Kesehatan Gigi. Akademi Analis Kesehatan berawal dari Sekolah Pengatur Analis (SPA) yang didirikan pada tahun 1958. Masa pendidikan 2 tahun. Lulusannya dapat melanjutkan pendidikan kekhususan selama 2 tahun lagi yaitu jurusan kimia dan jurusan bakteri. Tahun 1982 berubah namanya menjadi Sekolah Menengah Analis Kesehatan dan tahun 1998 dikonversi menjadi D-III Akademi Analis Kesehatan. Pendirian Politeknik Kesehatan didasarkan pada PP NO. 60 tahun 1999, selanjutnya terbit SK. Menkes No. 298/SK/Menkes/2001 yang merupakan wujud kebijakan pemerintah dalam meningkatkan efektifitas penggunaan sumber daya dan sumber dana yang tersedia yang bertujuan untuk efisiensi, maka dibentuklah Politeknik Kesehatan.
Pada Bulan Oktober dan Novemebr 2001, semua Akademi Kesehatan yang bernaung di bawah Depkes menyikapi SK tersebut dan segera membentuk Panitia Ad Hock yang terdiri dari 5 orang perwakilan dosen setiap Akademi. 3 orang dari Kanwil Depkes Propinsi Sumatera Utara dan dari Pusdiknakes 1 orang sesuai petunjuk yang ada. Panitia Ad Hock bertugas mempersiapkan pembentukan Poltekkes mulai dari penyiapan dan pelaksanaan proses pemilihan Direktur dan Pembantu Direktur, Ketua Jurusan dan Sekretaris Jurusan, Ketua Prodram Studi dan Sekretaris Program Studi. Proses pemilihan berjalan terus dan terlaksana secara demokratis. Dengan pelantikan Direktur Poltekkes maka meleburlah seluruh Struktur Organisasi Akademi tersebut diatas mengikuti Struktur Organisasi Poltekkes. Kemudian dilanjutkan pemilihan Pembantu Direktur I, II dan III, Ketua Jurusan/Prodi dan Sekjur/Prodi. Penunjukkan personil di Direktorat dan perangkat yang ada di Jurusan/Prodi. Akhirnya pada tanggal 20 Juni 2002 dilaksanakan pelantikan Pudir, Kajur/Prodi dan Sekjur/Prodi oleh Direktur Poltekkes Medan. Dengan bergabungnya Akademi-Akademi Kesehatan menjadi Poltekkes maka aturan dan mekanisame kerja Akademi berubah mengikuti Struktur Organisasi Poltekkes. Tata laksana kerja Poltekkes pada awalnya mengacu pada SK Menkes No. 298 tahun 2001 dan selanjutnya disempurnakan dengan SK Menkes No. OT.01.01.2.4.0375 tahun 2003. Struktur Organisasi Politeknik Kesehatan Depkes Medan di tahun mendatang akan mengacu kepada Permenkes No. 890/Menkes/Per/VIII/2007 tanggal 2 Agustus 2007.