Universitas PGRI Semarang didirikan oleh Pengurus Daerah Tingkat I PGRI Provinsi Jawa Tengah melalui Yayasan Pembina Lembaga Pendidikan (YPLP) IKIP PGRI Jawa Tengah dan merupakan perubahan bentuk dari IKIP PGRI Semarang dengan Akademi Teknologi Semarang. Tujuan pendiriannya adalah untuk menyiapkan calon pemimipin yang unggul dan berkarakter kebangsaan sehingga dapat menjadi teladan dalam kehidupan berbangsa dan bernegara dalam mencapai kesejahteraan seluruh masyarakat Indonesia.  Dalam sejarah perkembangannya, perjalanan Universitas PGRI Semarang dapat dibagi dalam lima periode besar.

Periode pertama adalah periode perintisan kelembagaan (1981-1986). Periode ini ditandai dengan berdirinya IKIP PGRI Jawa Tengah padatanggal 23 Juli 1981 oleh Pengurus Daerah Tingkat I PGRI Provinsi Jawa Tengah di bawah kepemimpinan Drs. Is Riwidigdo. Beberapa tokoh pendirinya antara lain Taruna, S.H.; Drs. Is Riwidigdo; Drs. Karseno; Drs. R. Antonius Supardi Hadiatmodjo; Drs. Muhamad Oemar; Drs. Thomas Sabar Adiutomo; Drs. Abdul Latief Nawawi S.H.; Drs. Soeparjo; Ny. Widayati Sumiyatun Soeharto; dan Drs. Teddy Iskandi. Melalui SK Mendikbud No. 0395/0/1984 IKIP PGRI Jawa Tengah berubah menjadi STKIP PGRI Jawa Tengah.

Periode kedua adalah periode pembangunan kelembagaan (1987-1992). Pada periode ini, dibawah kepemimpinan Rektor Taruna, S.H., STKIP PGRI Jawa Tengah berubah nama menjadi  IKIP PGRI Semarang.

Periode ketiga adalah periode pembangunan akademik (1993-1997). Periode ini dibawah kepemimpinan Rektor Prof. Drs. Satmoko dengan fokus utama meningkatkan mutu dosen melalui program studi lanjut. Proses pembangunan akademik disempurnakan pada era kepemimpinan Prof. Drs. Sugijono, M.Sc. (1997-2001) yang memiliki enam program studi yaitu: Pendidikan Bahasa dan Sastra Indonesia (PBSI), Pendidikan Bahasa Inggris (PBI), Pendidikan Matematika (Pend. Mat), Psikologi Pendidikan dan Bimbingan (PPB), Pendidikan Pancasila dan Kewarganegaraan (PPKn); dan Pendidikan Biologi (Pend. Bio). Keenam program studi tersebut diajukan pada Badan Akreditasi Nasional Perguruan Tinggi (BAN PT) dengan perolehan akreditasi B.

Periode keempat adalah periode pengembangan (2001-2009). Di bawah kepemimpinan Rektor Dr. Sulistiyo, M.Pd., IKIP PGRI Semarang yang sempat diwacanakan akan berubah menjadi universitas memantapkan diri untuk bertahan dengan bentuk IKIP. Euforia berbagai perguruan tinggi untuk mengubah nama justru membuat IKIP PGRI Semarang semakin fokus sebagai perguruan tinggi pencetak tenaga kependidikan. Pada masa ini, peningkatan tajam terlihat dengan melejitnya posisi IKIP PGRI Semarang sebagai 5 (lima) besar Perguruan Tinggi Swasta (PTS) yang paling diminati calon mahasiswa.

Masih dalam periode ini, seiring dengan masih banyaknya kekurangan guru, khususnya guru TK dan SD, pada tahun 2003, IKIP PGRI Semarang membuka program studi D-2 Pendidikan Guru Taman Kanak-Kanak (PGTK) dan tahun 2004 membuka program studi D-2 Pendidikan GuruSekolah Dasar (PGSD).Pada tahun 2009 program studi PGSD D-2 ditingkatkan ke jenjang S-1 dan program studi PGTK D-2 ditingkatkan ke jenjang S-1 dengan nama Pendidikan Anak Usia Dini (PAUD). Bahkan, untuk mendukung program Gubernur Jawa Tengah tentang Bahasa Jawa sebagai mata pelajaran muatan lokal, IKIP PGRI Semarang juga mengembangkan program studi Pendidikan Bahasa dan Sastra Jawa.

Periode kelima (2009-sekarang) merupakan periode yang menekankan pada pendidikan karakter. Pada periode tersebut, IKIP PGRI Semarang di bawah kepemimpinan Rektor Dr. Muhdi, S.H. M.Hum. yang hingga saat ini terus mensosialisasikan metode pembelajaran pendidikan karakter pada anak didik. Berbagai kegiatan untuk mewujudkan terlaksananya pendidikan karakter terus digalakkan pada periode tersebut.Pada periode ini pula bergabung Akademi Teknologi Semarang (ATS) yang berdiri sejak tahun 1979 dalam pengelolaan YPLP PT PGRI Semarang dan selanjutnya pada tanggal 17 April 2014 melalui SK Mendikbud nomor 143/P/2014 ditetapkan penggabungan IKIP PGRI Semarang dengan ATS sebagai Universitas PGRI Semarang dengan 2 (dua) program studi S2, 13 (tiga belas) program studi S1 kependidikan, 7  (tujuh) program studi S1 teknik, dan 3 (tiga) program studi D3 teknik.