Jan van der Zee volgde een opleiding aan Academie Minerva (1919-1922) in Groningen, waar hij les kreeg van onder andere F.H. Bach en Willem Valk. Van der Zee schilderde (gouache, olieverf) en aquarelleerde landschappen, portretten, stillevens en stadsgezichten. Hij maakte daarnaast grafische kunst in de vorm van lino- en houtsneden. Van der Zee behoorde tot de vroege Nederlandse constructivisten. Hoewel hij binnen het figuratieve werk zijn onderwerpen abstraheerde, werden ze nooit echt abstract.
In 1922 richtte hij met Wobbe Alkema en Johann Faber het reclamebureau Atelier Voor Artistieke Reclame (AVAR) op, ze huurden atelierruimte aan de Noorderstationsstraat in Groningen. Van der Zee was lid van De Ploeg (1923-1948), vervolgens van Het Narrenschip. In 1958 was hij medeoprichter van de Groninger schildersgroep Nu. In 1965 ontving hij de Culturele prijs van de provincie Groningen. In 1986 hielden het Fries Museum en het Groninger Museum een grote overzichtstentoonstelling van zijn werk.
Van der Zee was niet alleen als kunstschilder actief, maar maakte ook monumentaal werk. Voorbeelden zijn de trap bij de Naberpassage aan de Grote Markt (1975-2013) en de mozaïekmuur (1960) voor de pabo aan de Verzetstrijderslaan. Voor de Martinikerk maakte hij een aantal glas in loodramen.