De 14e eeuwse bakstenen Gediminas toren op de kasteelheuvel is een van de weinig over gebleven resten van het kasteel, het is nu een symbool van onafhankelijkheid omdat hier voor het eerst de Lithouwse vlag werd gehesen aan het einde van het Sovjet tijdperk, en deze vlag wapperd er nu nog trots iedere dag.
Vanaf de toren heeft men een mooi blik over de stad met zijn vele kerken.