V podporo in pospešitev priprav za ustanovitev načrtovanega mestnega muzeja, ki naj bi preprečil odtekanje dragocenih predmetov v druge muzeje, je bilo leta 1902 ustanovljeno društvo Museumverein in Marburg. Dejavnost je usmerilo v zbiranje predmetov, kar razberemo iz oglasov v časniku Marburger Zeitung, ki so bili zelo pogosti zlasti v prvih letih delovanja društva. Iz pozivov meščanom razberemo, da je bilo društvo zainteresirano tudi za slike.

Muzej je bil slavnostno odprt 6. decembra 1903 v prostorih mestne nadaljevalne šole na vogalu današnje Razlagove in Cankarjeve ulice. Muzejsko društvo je od leta 1902 do leta 1922 vodilo evidenco zbranih predmetov v inventarni knjigi. Prvi vnos je z dne 13. septembra 1902. Prvo slikarsko delo, ki ga v današnji zbirki slikarstva z gotovostjo prepoznamo, je portret mariborskega usnjarja Andreasa Fleissa. Donacije so prihajale od več meščanov, vendar so podatki o delih zelo skopi. Društvo se je že leta 1903 obrnilo na mariborske slikarje Linda, Moserja, Hackla in druge, od katerih naj bi prejelo nekaj slik oziroma kopij in fotografij za muzej.

Iz zapisov v inventarni knjigi ugotovimo, da donacije slikarjev niso bile ravno številčne. Dejstvo pa je, da poziv Muzejskega društva mariborskim slikarjem lahko štejemo kot prvo znano dokumentirano pobudo za zbiranje slikarskih del sodobnih ustvarjalcev na območju Maribora, katere cilj je bil dopolnjevanje društvene muzejske zbirke. Iz tega zapisa tudi lahko razberemo, kateri slikarji, povezani z Mariborom, so bili na začetku 20. stoletja toliko pomembni, da so njihova dela v nemško usmerjenem Muzejskem društvu želeli ohraniti za prihodnje rodove.

Po prvi svetovni vojni se je spremenila nacionalna struktura odbora in članstva Muzejskega društva, ki sta dobila slovensko večino. Zbrane predmete so po letu 1924 deloma vpisovali v inventarno knjigo Zgodovinskega društva za slovensko Štajersko.