1980-ban került az Oktatáskutató Intézetbe, ahol akciókutatást indított az ÉKP-program kimunkálására, valamint ugyancsak akciókutatást folytatott a tanítóképzés megújítására. 1985-ben Törökbálinton kísérleti iskolát alapított, amely az értékközvetítő és képességfejlesztő modellre épült. 1990-ben miniszteri megbízásra megszervezte az Országos Közoktatási Intézetet, melynek főigazgatójává nevezték ki. Az OKI keretei között munkálta ki azt a koncepciót, amely „A magyar közoktatás minőségi megújításának szakmai programja” címen vált ismertté. Ennek alapján indítottak el egy országos szintű pedagógiai innovációt. 1993-ban az immár 12 évfolyamos Törökbálinti Kísérleti Iskola az ELTE fenntartásába került, itt a Zsolnay professzor nevéhez fűződő alternatív pedagógiai programok alkalmazására készítették fel a hallgatókat.

Zsolnay József 2002-ben elnyerte a Magyar Tudományos Akadémia doktora címet. 2003-ban a Veszprémi (jelenleg Pannon) Egyetemen megalapította és vezette a Nyelvtudományi Doktori Iskola Neveléstudományi Alprogramját. Pedagógiai munkáját számos elismeréssel díjazták, ezek közül kiemelkedik a Magyar Köztársaság Érdemrend Kiskeresztje, melyet 1995-ben vehetett át. 2010. december 15-én kapta meg a Veszprém Megye Érdemrendje kitüntetést. Halálának napján, 2011. január 12-én a Nemzeti Erőforrás Minisztériumtól érkezett az értesítés, miszerint a Magyar Kultúra Napja alkalmából Szent Györgyi Albert díjat adományoznak a professzornak munkássága elismeréséül. Dr. Zsolnay Józsefet január 22-én 13 órakor szombaton, a törökbálinti temetőben helyezik végső nyugalomra.