Procházka historickým starým městem Bad Mergentheim nabízí zajímavé pohledy do historie města. Na náměstí na vás čeká jedna z nejznámějších památek, kašna Milchlingsbrunnen. Kašna znázorňuje rytíře opírajícího se o štít s erbem velmistra Řádu německých rytířů. Nedaleko stojí impozantní dvojdomy z raného klasicismu, které udivují svým téměř identickým designem. Naproti stojí stará radnice, renesanční budova, která podtrhuje historický půvab centra města. Další zajímavostí je zvonice Minsteru svatého Jana Křtitele, v jehož sakristii se nachází Minsterský poklad - expozice, která představuje umělecká díla od pozdní gotiky až po moderní dobu. Milovníci umění by si také neměli nechat ujít slavnou Stuppachskou madonu od Matthiase Grünewalda ve farním kostele ve čtvrti Stuppach.
V těsné blízkosti náměstí se nachází barokní klášterní zámek, který návštěvníky fascinuje svou pohnutou historií a velkolepou architekturou. Kdysi byl postaven jako středověký hrad s příkopem a v 16. století se vyvinul v prestižní palác. Za prohlídku stojí zejména nádherné sály a slavné Berwartovo schodiště, mistrovské dílo Blasia Berwarta. Na hradě se nachází Muzeum řádu německých rytířů, které působivě osvětluje historii řádu. Expozici doplňuje Mörikeho kabinet, sbírka z období neolitu, domečky pro panenky a historické exponáty z adelsheimské sbírky starožitností. Zájemci o kulturu by si neměli nechat ujít pravidelné koncerty a literární akce v Červeném sále. Zvláštním klenotem hradu je umělecky řešený hradní kostel. Součástí zámku jsou rozsáhlé lázeňské zahrady, které nabízejí klid a odpočinek díky starým stromům, mostům, vodním tokům a labyrintu. Zážitkem jsou zejména večerní vodotrysky, které ohromují barevným světlem a hudbou.