Al ver Santa Ana y su fachada de encaje de ladrillo (33 tipos diferentes), Napoleón quiso al parecer llevársela a Francia en el hueco de su mano... Esta iglesia "de bolsillo" con sus curvas elevándose hacia el cielo está considerada como la obra cumbre del gótico lituano. Tras sus puertas labradas se descubre un interior sobrio, dañado por frecuentes incendios y pillajes (por parte de los ejércitos napoleónicos). Todas las curvas (bóvedas, columnas) que cubren las blancas paredes son retomadas por las coloridas vidrieras.