Gemeindewappen von Rimsberg kündet von frühgeschichtlichen Funden
Das Gemeindewappen von Rimsberg spricht in dreierlei Form über das Dorf und seine Geschichte. Im oberen Wappenteil finden wir das rot-weiße Schachbrett, das auf die frühere Zugehörigkeit zur hinteren Grafschaft Sponheim hinweist.
Das Grün der unterer Wappenhälfte deutet auf die im Dorf noch vorwiegend betriebene Landwirtschaft hin.
Armreif und Lanzenspitze künden, dass in der Gemarkung des Dorfes frühgeschichtliche Funde geborgen werden konnten, die darauf hindeuten, dass es sich hier um eine Siedlung handelt, die bereits in vorrömischer Zeit bestanden hat.
Bei der Kipp fand man Tongefäße und Bronzeringe der früheren Latenezeit.
Römische Spuren sind an verschiedenen Stellen, wie in der Götzwies, besonders aber im Bereich der Römerstrasse auf und beim Rathenhübel in den Bezirken „Auf der Platte“ und „Königswies“ angetroffen worden.
Der Radehübel ist in einer Urkunde „Tumulus Mercurii“ genannt; man dürfte nicht irren, wenn man diese Benennung auf gefundenes Merkurbild oder auf eine von diesen Gott zielende Inschrift zurückführt.
Im Bereich der Strasse nach Kronweiler sind „Auf Hillesfeld“ und auf „Vogelsberg“ Spuren von wahrscheinlich mittelalterlichen Besiedlungen festgestellt worden.
Rimsberg wurde zum ersten Male urkundlich 1269 als „Remisberg“ genannt. 1445 findet sich die Schreibweise „Rymsberg“ wieder.