​​​במוזיאון ה"הגנה" מוצגים בכפיפה אחת סיפורה של משפחה, סיפורו של בית וסיפורו של ארגון המשולבים זה בזה ובתולדות היישוב העברי והקמת המדינה. הבית בשדרות רוטשילד 23 היה ביתה של משפחת שרתוק-גולומב. המוזיאון נקרא על שם אליהו גולומב, אשר  נמנה עם הוגי רעיון ה"הגנה" והיה ממייסדי הארגון ומפקדו הבלתי מוכתר – "שר הביטחון של המדינה שבדרך" – עד מותו בטרם עת ביום ל' בסיוון תש"ה (11 ביוני 1945). 

משה שרתוק (שרת) ואחותו רבקה, אליהו גולומב ודב הוז היו תלמידי המחזור הראשון של הגימנסיה העברית הראשונה – גימנסיה "הרצליה". זו הייתה חבורה מלוכדת ובביתה הראשון של משפחת שרתוק, ששכן ברחוב יהודה הלוי 21, הם היו נפגשים לאחר שעות הלימודים. בימי הגימנסיה נטווה "החוט המשולש" של רעות נפש, שותפות לרעיון ולדרך בין משה שרתוק, אליהו גולומב ודב הוז. בהמשך הפכה הרעות אף לקרבת משפחה – אחיותיו של משה שרתוק נישאו לחבריו – רבקה נישאה לדב הוז ואליהו גולומב נשא לאישה את עדה. משה שרתוק נישא לחברתו לכיתה ציפורה מאירוב, שאחיה הצעיר שאול מאירוב (לימים אביגור) היה ליד ימינו של אליהו גולומב בניהול ענייני ה"הגנה". בכך הושלם "מרובע הגיסים" שניהלו את ענייני החוץ והביטחון של היישוב המאורגן בתקופת המנדט.

הבית, שנבנה בראשית שנות העשרים, הוא חלק משכונת נחלת בנימין וצופה אל שדרות רוטשילד – ה"בולוואר" של השכונה. עדה ואליהו גולומב עברו לגור בו יחד עם אמהּ של עדה ובו גדלו ילדי המשפחה. באותן שנים היה הבית למוקד פעילותו של ארגון ה"הגנה". תוכניות רבות בנושאי ביטחון, התיישבות ביטחונית והעפלה נֶהגו בבית ונדונו בו בכל שעה משעות היום או הלילה. כאן התקבלה ההחלטה על הקמת הפלמ"ח, לכאן הגיעו הצנחנים שיצאו לאירופה הכבושה לקבל את ברכת הדרך מאליהו גולומב ולכאן הגיעו ראשי ה"הגנה" והפלמ"ח לקבל את עצתו של מנהיגם-מפקדם ולדווח לו על אירועים שונים. בשנת 1944 נמכר הבית אך בני המשפחה הוסיפו להתגורר בו בשכירות גם לאחר פטירתו של גולומב.

עם השנים איבד האזור את צביונו כשכונת מגורים והפך למרכז העסקים של תל אביב. בתחילת שנות החמישים נמכר הבית לחברה קבלנית שביקשה להורסו ולבנות במקומו מבנה מסחרי. ימים אחדים לפני הפינוי כינסו בני המשפחה את חבריו של אליהו גולומב לעשייה ולהנהגה כדי להיפרד מהבית שהיה טעון בזיכרונות כה רבים. בלילה ישבו החברים וסיפרו מזיכרונותיהם אודות אירועים ומפגשים שהתנהלו בבית בימי חייו של גולומב. עם בוקר גמלה בליבם ההחלטה לסכל את תוכנית הפינוי ולפעול לשימור הבית כיד זיכרון לאליהו גולומב ולמפעל חייו – ארגון ה"הגנה". הוקמה עמותה שפעלה למימוש הרעיון, הבניין נרכש מבעליו ומשרד הביטחון התחייב לקיים בו את המוזיאון ולנהלו. באפריל 1961 נחנך מוזיאון ה"הגנה", שהיה לראשון המוזיאונים של משרד הביטחון.​

האדריכל יוחנן רטנר, שהיה ראש המפקדה הארצית הראשון של ארגון ה"הגנה", עמד בראש משרד האדריכלים שתכנן את הפיכת הבית למוזיאון. רטנר היה מודע לערכו ההיסטורי של הבית ולכן החליט לשמר את חזית הבית ושניים מחדריו המקוריים ולכלול אותם בבניין שיכיל את תצוגת המוזיאון ואת ארכיון ה"הגנה". חדר המגורים של המשפחה וחדר העבודה של גולומב שומרו כפי שהיו, כולל קירותיהם המצוירים ביד אומן/אמן, המרצפות האוריינטליות האופייניות לבתי תל אביב הקטנה, הרהיטים שהביאה עמה משפחת שרתוק מרוסיה, הפסנתר והסמובר. כל אלו שומרים על רוח התקופה ומשחזרים את האווירה ששררה בבית המיוחד שהיה בית שרתוק-גולומב בתקופת בניינה של האומה.