Awal sejarah PENS dimulai pada tahun 1984. Japan International Cooperation Agency (JICA), badan kerja sama internasional yang didirikan pemerintah Jepang tahun 1974 guna membantu pembangunan negara-negara berkembang, berencana untuk membangun pendidikan politeknik di Indonesia dan memberikan hibah untuk pengembangan politeknik.
Bantuan hibah dan kerja sama dari JICA ini sempat ditawarkan ke beberapa kampus, namun mereka tidak segera menerima karena alasan tidak memiliki lahan yang cukup. Akhirnya bantuan dan hibah tersebut jatuh ke Institut Teknologi Sepuluh Nopember (ITS) Surabaya, yang bersedia menyediakan lahan sebesar 10 hektar untuk pembangunan politeknik.
Sebelum dijatuhkannya pilihan ke ITS, diawali pembicaraan oleh Sekretaris Dirjen Pendidikan Tinggi saat itu, Ir. Oetomo Djajanegara, dengan Ketua Jurusan Teknik Elektro FTI ITS, Ir. Syarifuddin Machmud Syah, M.Sc., yang saat itu ditugaskan mengurus program percepatan insinyur di Ditjen Pendidikan Tinggi. Beliau mengatakan ke pak Syarifuddin tentang rencana JICA untuk pembangunan politeknik dengan memberikan hibah 2,5 miliar yen, tetapi dengan syarat pihak perguruan tinggi harus menyediakan lahan untuk pembangunan tersebut..
Pak Syarifuddin kemudian menyampaikan ke Rektor ITS saat itu, Ir. Hariono Sigit, BS. Beliau langsung menyambut positif dan bersedia menerima hibah tersebut untuk pembangunan politeknik di ITS dengan menyediakan lahan sebesar 10 hektar. Beliau juga langsung menunjuk pak Syarifuddin untuk mengawal rencana pengembangan politeknik tersebut..