1894년 니가타 현 오지야 시에서 태어났다. 1917년 게이오대학 경제학과를 졸업하고 1922년 영국 유학을 감행, 옥스퍼드대학 영어영문학과에 입학했다. 1924년 T. S. 엘리엇과 나란히 문예지에 영시를 발표하였고, 첫 영시집 <스펙트럼(Spectrum)>을 간행되는 등 국제적인 위치를 확보했다.
1926년에는 일본으로 돌아와 게이오대학 문학부 교수로 선임되었다. 이후 시와 시론을 발표하여 일본 현대시의 토대를 마련하였고 조이스의 시를 번역하여 소개하는 등 일본 전후 시인들에게 결정적인 영향을 미쳤다.
1973년에는 <니시와키 준사부로 전집> 10권이 완간되었으며, 1975년 5월에 사망하었다. 이후 가와사키 시의 다카스에 시비가 완성되었다.