Fortizza Biżantina probabbilment kienet l-ewwel li okkupat is-sit, segwita minn kastell Ottoman żgħir. Ali Pasha, li ħa l-kontroll tal-belt fl-1789, bnieh mill-ġdid fuq skala kbira fil-bidu tas-seklu 19; skrizzjoni Griega fuq il-Bieb tal-Viżir iġġorr id-data 1819, għalkemm ix-xogħlijiet qatt ma tlestew. F'Ottubru 1809 iż-żagħżugħ Lord Byron żar lil Ali Pasha fil-palazz tiegħu hawn, laqgħa li aktar tard fakkar f'Childe Harold’s Pilgrimage.
Illum il-kastell jagħlaq lokalità residenzjali kwieta. Għadhom jeżistu partijiet mis-swar tal-fortifikazzjoni sa madwar għaxar metri għoljin, flimkien ma' tliet torrijiet poligonali u l-fdalijiet tal-bibien, għalkemm il-palazz ta' Ali Pasha ilu li għeb. Plakka fuq is-swar tfakkar iż-żjara ta' Byron, u monument lil Ali Pasha jinsab qrib id-daħla ewlenija. Is-swar iħarsu fuq il-wied tal-Vjosa, u tista' tiġġerra fil-kastell b'xejn.
Tepelenë hija waqfa xierqa fil-vjaġġi bejn Gjirokastër, Përmet u l-kosta.
