Aus dem Mittelalter haben sich deutliche Spuren am Mergentheimer Schloss erhalten. Der unregelmäßige Grundriss der später ergänzten Anlage, die wohl im 11. Jahrhundert gegründet wurde, geht auf die mittelalterliche Wasserburg zurück. Die Gräben sind auch heute noch zu sehen. Einen Blick in die frühe Geschichte bieten auch die erhaltenen aufwändigen staufischen Palas-Arkaden. Sie stammen aus der Mitte des 13. Jahrhunderts und waren ursprünglich Teil der ehemals westlichen Aussenwand des Südflügels. Seit dem 18. Jahrhundert zieren sie eine Innenwand im Südflügel.
Seit dem Jahr 1527, seit der Verlagerung der Zentrale des Deutschen Ordens nach Mergentheim nahm auch der Anspruch der Hochmeister an die repräsentative Funktion der Anlage zu. Die Burg wurde zu einer Renaissanceresidenz ausgebaut. Wie auch in anderen repräsentativen Schlössern der Zeit in Süddeutschland zog man als Baumeister Blasius Berwart heran. Zu den herausragenden Zeugnissen seiner Bautätigkeit gehört die 1574 geschaffene Wendeltreppe mit kunstvollem Relief an der Unterseite.
Zwischen 1730 und 1799 wurde das Mergentheimer Schloss teilweise in barockem Stil umgestaltet. Es entstand eine neuere, größere Schlosskirche (1730-36), deren konkave Eingangsfassade ebenso wie die Deckenfresken und Stuckaturen die barocke Idee einer gesteigerten Raumwirkung verwirklichen. Aus dieser Zeit haben sich im zweiten Obergeschoss im Süd- und im Nordflügel des Schlosses auch zwei Appartements mit prachtvollem Stuck erhalten. Fein gearbeitete Figuren aus der antiken Mythologie zieren Deckenbilder und Stuckmotive.