Hajdúszoboszlón született egy ötgyermekes parasztcsalád első gyermekeként. Édesapja az első világháborúban meghalt, édesanyja egyedül nevelte fel, nagyapja elemi iskolába járatta, majd a debreceni főreáliskolába került, ahol már a saját erejére kellett támaszkodnia. 1925-ben érettségizett, majd utána a debreceni tudományegyetem bölcsészettudományi karára iratkozott be magyar-francia szakos hallgatónak. Járt a párizsi Sorbonne-ra ösztöndíjasként két évig. 1931-ben középiskolai tanári diplomát és doktori oklevelet szerzett.

• Rövid ideig a Debreceni Egyetemi Könyvtárban dolgozott, mint gyakornok, majd középiskolai tanár lett Nyíregyházán, később visszakerült Debrecenbe. Egyik szervezője volt a debreceni Nyári Egyetemnek.
• Később az oktatásügy és a művelődéspolitika területén tevékenykedett. Kimagasló szerepet vállalt az általános iskola és a dolgozók iskolája létrehozásában, valamint a népkönyvtárak szervezésének megindításában, illetve a felsőfokú könyvtárosképzési rendszer kialakításában.
• 1949-1956-ig a debreceni Egyetemi Könyvtár igazgatója volt, mely a vezetése alatt vált a második magyar nemzeti könyvtárrá.
• 1956. szeptember 1-től haláláig a budapesti ELTE Bölcsészettudományi Karán a Könyvtártudományi Tanszék vezetője volt. Szakmailag jól felkészült, komoly hivatástudattal és művelődéspolitikai szemlélettel rendelkező könyvtárosok százait bocsátotta ki tanszéke az egyetemről.
• 1957-től élete végéig elnöke volt az Országos Könyvtárügyi és Dokumentációs Tanácsnak, a Magyar Bibliofil Társaságnak, alelnöke a Hazafias Népfront Budapesti Bizottságának, a TIT Országos Irodalmi Választmányának.
• Tagja volt a Magyar Könyvtárosok Egyesülete Elnökségének, a magyar UNESCO Bizottságnak, egy ideig a Magyar Könyvszemle Szerkesztőségének és a Magyar Tudományos Akadémia I. osztálya Könyvtörténeti és Bibliográfiai Bizottságának is.
• 1972. augusztus 29.-én munka közben érte a halál, amikor az IFLA éppen Budapesten ülésezett, a Farkasréti temetőben helyezték örök nyugalomra.

Eredményes munkássága, művelődési és közéletünk számos terén szerzett érdemei elismeréséül elnyerte a Békéért, a Magyar Köztársasági Érdemérem, a Munka Érdemrend arany fokozatát, a Magyar Népköztársaság Érdemrendjét, a Szocialista Munkáért Érdemérmet, a Felszabadulási Érem kitüntetéseket.

Születése 75. évfordulóján városunk idézte elsőnek emlékét, amikor 1981. június 9-én könyvtárunk felvette nevét. Emléket állít személyének még a Kovács Máté utca és a Kovács Máté Díj Hajdúszoboszló Város közszolgálatáért.

• A Magyar Enciklopédia előkészítése (Magyar Könyvszemle - 1955)
• A magyar könyvtári törvény alapelvei, célkitűzései és művelődéspolitikai jelentősége (Magyar Könyvszemle - 1956)
• A könyv és könyvtár a magyar társadalom életében (szerk., 1-2., 1963-70)
• Az egyetemi könyvtárosképzés két évtizedes fejlődése és főbb kérdései (1970)