Początki osadnictwa żydowskiego w Janowie koło Sokółki (w języku jidysz - Janowa) przypadają zapewne na wiek siedemnasty, jednak dopiero w 1719 roku biskup wileński Konstanty Brzozowski wydał pozwolenie na wzniesienie synagogi w Janowie. Kilkadziesiąt lat później w Janowie mieszkało już więcej Żydów niż rdzennych Polaków - w 1775 roku było tu dwustu czternastu chrześcijan oraz dwieście dwadzieścia jeden osób wyznania mojżeszowego.

Główna synagoga w Janowie została wzniesiona prawdopodobnie w 1740 roku. Tomasz Wiśniewski, znany badacz judaików Podlasia, w swej książce zatytułowanej: "Bóżnice Białostocczyzny" janowską synagogę zaliczył "do najbardziej interesujących obiektów sakralnych wyznawców religii mojżeszowej. Duże wrażenie czynił monumentalny, trzykondygnacyjny dach kryty gontem. Nad oknami ściany głównej biegł dookoła zdobny fryz".

Dziewiętnasty wiek musiał być okresem szczególnego rozwoju liczebnego miejscowej społeczności żydowskiej - "Słownik geograficzny Królestwa Polskiego i innych krajów słowiańskich" opisując Janów z końca tego stulecia, wzmiankował "1534 mieszkańców (katolików 528, prawosławnych 3, żydów 997, mahometan 3)". W 1897 roku w miasteczku żyło już 1.797 osób wyznania mojżeszowego, którzy stanowili 78% wszystkich mieszkańców.

Warto wiedzieć, że w Janowie urodził się Israel Davidson, znany historyk średniowiecznej literatury hebrajskiej.

W początkach XX wieku wielu Żydów opuściło Janów, było to spowodowane powszechną w tym czasie emigracją zarobkową do Ameryki i innych krajów. Mimo to, w 1921 roku podczas spisu powszechnego żydowskie pochodzenie lub wyznanie mojżeszowe zadeklarowało 1.027 mieszkańców Janowa.

Po 1 września 1939 roku do miasteczka - zajętego wkrótce przez wojska radzieckie - przybyło wielu Żydów, uciekających przed Niemcami. Druga wojna światowa przyniosła całkowitą zagładę tego sztetl. Wojska niemieckie weszły do Janowa po agresji na Związek Radziecki, w dniu 26 czerwca 1941 roku. W mieście utworzono getto, a część Żydów deportowano do Suchowoli. Getto zostało zlikwidowane w dniu 2 listopada 1942, jego mieszkańcy zostali wywiezieni do obozu przejściowego w Kiełbasinie koło Grodna, skąd później trafili do obozów zagłady. Zniszczeniu uległa janowska synagoga - dziś możemy oglądać ją tylko na zdjęciach, wykonanych przez Szymona Zajczyka.