그리스 테살로니키와 마케도니아 유태인들의 거주 역사는 2,000년 전으로 거슬러 올라간다. 테살로니키 시에는 제2차 세계 대전 중엽까지 주로 동부 세파르딤(Eastern Sephardim) 주요 유태인 공동체가 있었다. 1492년 알함브라 칙령에 따라 카톨릭의 통치자들이 스페인에서 유태인들을 추방한 후, 세파르딤 유태인들이 이 도시로 이주하면서 유태인 지구가 따로 생기게 된다. 수세기 동안 세파르딤 공동체는 문화적으로나 경제적으로 마케도니아 지역 세계에 큰 영향을 미쳤고 이 도시는 라 마드레드 이스라엘 (La Madred Israel), "이스라엘의 어머니"라는 별명을 얻었다. 

Jewish family of Salonika in 1917, 출처 : Wikipedia, History of the Jews in Thessaloniki

이 지역 사회는 도시에서 강력한 문화를 발전시킨 16세기에 전성기를 경험했다. 오스만투르크 제국의 다른 종교 그룹들과 마찬가지로, 그들은 서유럽이 산업화를 겪고 있던 기간 동안 전통 문화를 계속 고수해왔다. 19세기 중반에 유태인 교육자들과 기업가들은 학교와 산업을 발전시키기 위해 서유럽에서 테살로니키로 이주했다. 그들은 도시 문화를 변화시킨 유럽에서 획기적이고 혁신적인 기술을 가져왔다. 산업의 발전과 함께 유태인과 다른 민족들은 모두 산업 노동자가 되었고 노동 운동이 도시의 지적 혼합에 기여하면서 대규모 노동 계급을 발전시켰다. 

그리스가 오스만 제국으로부터 독립한 후, 1920년대에 유태인들은 그리스의 시민권을 얻고 민족은 유태인이지만 국적은 그리스인으로 살아가게 된다. 그리스의 홀로코스트, 나치가 유럽 여러 나라에서 홀로코스트를 자행했지만, 나라별로 보면 그리스에서 일어난 홀로코스트 비율이 가장 높다고 한다. 유태인 박물관은 1977년 그리스 유태인의 역사에 대한 각종 자료를 수집하고 보관하고 연구할 목적으로 만들어졌다. 수세기에 걸친 유태인들의 생활과 문화의 생생한 사진을 보여주는 것이 주목적이라고 되어 있다. 하지만 전시물의 많은 부분은 나치 점령 시기 그리스 유태인 박해에 관한 내용으로 채워져 있다.

나치 독일은 1941년 4월 6일 그리스를 침공해 4월 9일 테살로니키(살로니카)를, 4월 27일에는 아테네를 점령했다. 당시 그리스에는 90,000여명의 유태인들이 살았다. 그리스 최대의 유태인 공동체로 6만여 명에 이르는 유태인들은 그리스 제2의 도시 테살로니키에 거주했다. 반유태주의 정책은 1942년 여름부터 시작됐다. 반유태주의를 선동하는 출판물이 발간되고 차별정책이 시행됐다. 1943년 3~8월 모진 박해 끝에 테살로니키 거주 유태인들 상당수가 항구 노동자로 강제 노역에 시달렸으며 아우슈비츠 수용소로도 강제 이송됐다. 이들 가운데 살아서 돌아온 유태인은 1,950여 명에 지나지 않았다. 테살로니키 지역 유태인의 97%가 학살 된 것이다. 박물관 전시물에는 그리스 내 유태인들의 추방 지역과 추방 경로가 자세하게 소개돼 있다.

테살로니키 항구 인근에는 유태인 박물관이 있고 홀로코스트 추모비가 서 있다. 그리고 이 근처에는 그리스에서 가장 큰 유태인 예배당인 시나고그가 있다. 테살로니키 방파제는 유태인들이 박해를 받았던 곳으로 해마다 유태인들이 추모하러 찾아오는 곳이다. 제2차 세계 대전 동안, 그리스는 나치 독일과 그 동맹국에 의해 점령되었다. 1941년 나치는 유태인들을 체계적으로 박해하기 시작했다. 1943년 테살로니키 유태인들은 철로 근처의 게토로 강제 이송되었고 강제 수용소와 노동 수용소로 이송되기 시작했다.이 방파제 안쪽은 항구로 그리스나 발칸 지역에서 독일 군함을 타고 이곳으로 입성했고 항구 노동자로 강제 노동을 당했다. 

당시 항구 노동자로써 강제 노역과 더불어 지옥과 같은 노역에 시달린 유태인들은 사망자는 60,000명으로 기술되었다. 이는 세파르딤 공동체에 대한 소멸을 초래했다. 그리고 현재에도 테살로니키에는 약 1,200명의 유태인들이 살고 있다.