Ouvert en 1971, le Musée national des armes occupe une partie de la prison où les détenus étaient « rééduqués ». Achevée en 1932, la prison fut commandée par le roi Zog d'Albanie et construite par des Italiens. Elle est très différente du reste du château. Les pierres proviennent de l'aqueduc qu'Ali Pacha avait fait construire (allez voir le « pont » d'Ali Pacha).
Pendant la Seconde Guerre mondiale, la prison fut utilisée par les forces d'occupation italiennes et allemandes. Après la guerre, les communistes l'agrandirent et y enfermèrent des prisonniers politiques. Selon les habitants, le régime utilisait la cour de la prison pour les exécutions. La prison fut fermée en 1968, puis une partie fut transformée en musée par le régime communiste. Les inscriptions sur les murs proviennent de journaux et de lettres de communistes et de militants emprisonnés ici sous le roi Zog, puis pendant la Seconde Guerre mondiale par les forces d'occupation italiennes et allemandes. Aucune de ces inscriptions ne mentionne le régime communiste.
Le musée des Armes présente aujourd'hui des armes albanaises de l'indépendance en 1912 jusqu'à la fin de la Seconde Guerre mondiale. La majeure partie du musée est consacrée à la lutte des partisans contre les forces d'occupation italiennes et allemandes de 1939 à 1944.
