清末民初山东出现县图书馆。到1935年间全省已有80多个县图书馆。嗣后的抗日战争和解放战争时期，由于战乱兵燹，至新中国成立前夕，各县公共图书馆大都闭馆，幸存者名存实亡。

新中国成立后，山东省图书馆事业得到很大发展。建国初期，全省各县均在文化馆内设立了图书室。1956年全省已有25个县建立了图书馆。中共十一届三中全会后，随着经济建设的发展，图书馆的地位和作用也在不断提高。1978年山东省文化局颁布了《山东省县级图书馆工作条例》，对县图书馆工作的方针、任务都作了明确的规定。这一时期，山东的农村图书馆事业有了长足的发展，到1990年底全省已有102个县图书馆、2 000多 ......