Vanaf de 9e eeuw behoorde Hemmen aan de Van Doornick’s. Zij waren ridders. Elisabeth, de enige dochter van Willem Borre van Doornick, trouwde in 1360 met ridder Steven van Lynden, waardoor de heerlijkheid Hemmen in het geslacht Van Lynden overging.
Het slot Hemmen was een van de mooiste en indrukwekkendste kastelen van Gelderland, maar werd in de eerste helft van de 18e eeuw door brand verwoest en afgebroken. In 1757 werd het Huis Hemmen gebouwd onder Frans Godard van Lynden op dezelfde fundamenten. Het Huis Hemmen kreeg de uitstraling van een groot landhuis, beïnvloedt door vrienden die in moderne landhuizen woonden aan de Vecht. Frans Godard woonde tijdens de bouw in het huis ‘Klein Hemmen’. Dit lag op de hoek van de Veldstraat en de Boelenhamsestraat.
Steven van Lynden vestigde zich in Hemmen in 1375. Sindsdien heeft Hemmen zeventien heren van Hemmen gekend. Zijn opvolgers waren uit het Van Lynden geslacht en hadden functies als ridder, majoor, dijkgraaf, lid van de Eerste Kamer of burgemeester. De Van Lyndens waren samen goed voor een indrukwekkende biografie. Zo tekende Dirk van Lynden in 1579 de Unie van Utrecht, waarmee ontrouw werd bekrachtigd aan het gezag van de Spaanse koning Philips II; introduceerde Diederick van Lynden in 1619 de oecumene op Kasteel Hemmen door als katholiek een protestantse te huwen; maakte Derk Wolter van Lynden (1659-1712) deel uit van het gevolg van Mary Stuart, de Engelse vrouw van stadhouder-koning Willem III en was Willem Frans Godard (1729-1787) betrokken bij de nieuwe Psalmberijming.
De laatste heer van Hemmen was baron Frans Godard van Lynden van Hemmen (1836-1931). Hij was burgemeester van Hemmen en lid van de Eerste Kamer der Staten Generaal, heemraad, dijkgraaf van de Overbetuwe en zat een halve eeuw in de kerkenraad. Hij was heer en meester in Hemmen, die de predikant kon aanstellen en het schoolpersoneel kon benoemen en ontslaan. Wanneer de baron bij de veerpont het Lexkesveer kwam, blies zijn koetsier op de hoorn en voer de pont ijlings naar de Betuwse kant van de Rijn. Dan betrad de heer met paard en wagen – als enige – het vaartuig. In 1920 richtte hij de Stichting het Lijndensche Fonds op. Alle bezit werd daarin ondergebracht, want Hemmen moest van de baron een eenheid blijven. Hij overleed in 1931 kinderloos waardoor deze tak van het geslacht Van Lynden uitstierf.
Het Huis Hemmen behoorde na zijn dood toe aan het Lijndensche Fonds voor Kerk en Zending en was tot 1941 een conferentieoord. Er werden werkweken georganiseerd die betrekking hadden op jeugdwerk en zending. Zendelingen, die met verlof in Nederland waren, konden er logeren en overspannen predikanten konden er tot rust komen.
De verwoesting
Na 1941 – tijdens de Tweede Wereldoorlog – werd het Huis Hemmen gebruikt door oorlogsvluchtelingen uit het Westen van het land. In januari 1945 werd het kasteel het middelpunt van hevige gevechten. Het huis werd afwisselend door Duitse, Engelse en Canadese soldaten in gebruik genomen. Op het moment dat Duitse soldaten in het huis zaten, lukte het de geallieerden op 5 januari 1945 om het huis met fosforgranaten in brand te schieten. De Duitsers zwommen over de 60 meter brede gracht aan de achterkant van het kasteel, staken de Linge over en vluchtten richting Rijn.
Wat overbleef van het huis was een ruïne. Op 6 januari 1945 werd het huis nog verder door tanks in puin geschoten om te voorkomen dat de ruïne nog als Duitse uitvalsbasis gebruikt zou worden.
Na de oorlog werd het aan zijn lot overgelaten en bomen groeiden tussen de resten van het huis. In de jaren 1997-1998 werd de ruïne geconsolideerd en muren beschermd tegen vorst en regen. De ruïne is nu alleen nog opengesteld voor groepen, die onder leiding van een gids rondgeleid worden.