Kostel sv. Floriána nechal v letech 1597–1606 postavit Rudolf z Bünau, pán na Weesensteině a Blansku, jako luteránskou kapli původně zasvěcenou Panně Marii, a to v rámci výstavby zámeckého areálu v Krásném Březně. Zámecká kaple se stala farním kostelem až se zřízením farnosti v Krásném Březně v roce 1897, kdy zároveň došlo k jejímu zasvěcení sv. Floriánovi. Kostel je postaven ve stylu tzv. saské renesance, v interiéru se nachází žebrová síťová klenba s trny, diamantové portály, okenní kružba a patrové empory. Do dnešních dnů se v tomto stavebním slohu dochoval téměř beze změn, což bylo důvodem jeho zapsání na seznam národních kulturních památek v roce 2008. 

Nejhodnotnější částí mobiliáře je renesanční oltář s alabastrovými reliéfy z roku 1604. Ústředním motivem oltáře je rodokmen Ježíše Krista (tzv. Strom Jesseho), další reliéfy zobrazují výjevy z Ježíšova života. Obdobně působivá byla kazatelna, ze které se dochovaly alabastrové reliéfy s pašijovými výjevy. Originály těchto reliéfů byly na konci 19. století věnovány městskému muzeu a v kostele jsou nyní osazeny jejich věrné kopie. Tento soubor renesančních alabastrových reliéfů, jejichž autorem je saský sochař Melchior Kuntze z Freibergu, činí kostel sv. Floriána ojedinělou historickou památkou na pomezí Čech a Saska.

Na hlavní loď navazuje prostor spojovacího krčku, v němž je umístěna expozice o historických zobrazeních kostela, mobiliáři, archeologii a obnově. Sál v podstřeší kostela nabízí stálou výstavu ARTE FACTA, která návštěvníky seznámí s materiály a prvky, které byly používány pro konstrukce historických staveb. Ke kostelu je přičleněn také malý hřbitov, kde jsou pohřbeni jedni z posledních majitelů zámku z rodu Kolovrat-Krakovských-Novohradských. 

V kostele se každou sobotu od 16.00 konají pravidelné bohoslužby.