1848년 이와테(岩手)현에서 태어났다. 도쿠가와 막부 말기 에도(江戶)의 시마타 초레이(島田重禮) 밑에서 공부했고, 메이지 초기 대만정벌(1874년)에 참여하였다. 1875년부터 요코하마 마이니치(橫濱每日) 신문의 기자로 활동하면서 한국 문제에 대해 관심을 갖게 되었다. 1880년 부산주재 일본서기관으로 부임했고, 1883년 인천주재 부영사로 임명되었다. 스기무라는 1886년 10월부터 주한일본공사관 서기관에 임명되면서 대원군(大院君)과 친밀한 관계를 형성하였다.
스기무라는 1880년대 중반부터 주한 일본 대리공사(代理公使)를 여러 차례 역임하여 한국에서 “작은 왕”이라고 불릴 정도로 한국의 정치상황에 정통하였다. 1894년 6월 “민씨당을 몰아내고 반대파 또는 중립적인 인사를 정부에 등용해야한다”는 보고서를 외무대신 무츠 무네미츠(陸奧宗光)에게 보냈다. 그는 한국에서 일본식 정치개혁의 걸림돌로 명성황후(明成皇后)를 지목하였다.
스기무라는 1894년 7월 오카모토 류노스케(岡本柳之助)를 대원군에게 직접 소개시켜 주었고, 오카모토는 자연스럽게 대원군과의 연락을 담당하였다. 정변을 추진할 수 있는 조직체계를 기초한 인물이 바로 외무대신 무츠였다. 스기무라는 1894년 7월 23일 일본군대의 경복궁 침입 당일 새벽 “일이 성공한 후 결코 한국에 한 치의 땅도 요구하지 않겠다”는 문서까지 직접 작성하여 대원군에게 건네주었다.
주한 일본서기관 스기무라는 을미사변 직전 “궁중은 이미 러시아공사와 결탁하여 러시아가 조선의 군권을 보호해 주는 대신에 함경도의 한 항구를 러시아에게 빌려주는 밀약을 맺었다”는 한러밀약설까지 제기하였다. 그리고 1895년 7월 궁중과 러시아공사 사이에 ‘은밀한 약속’도 성립되었다고 주장하였다.
주한 일본공사 미우라 고로(三浦梧樓)의 지시를 받은 스기무라는 대원군에게 요구할 4개조의 약속 초안을 작성하고 1895년 10월 3일 오카모토를 만났다. 갑오개혁 이후 한국 군부고문을 역임한 오카모토는 1894년 ‘7.23경복궁점령사건’ 당시 대원군을 경복궁으로 입궐시킨 장본인이었다. 스기무라는 대원군을 정변의 전면에 앞세우기 위한 방안을 오카모토와 세부적으로 협의하였다. 두 사람은 대원군을 중심으로 훈련대와 ‘장사패’를 연결시키며 그들을 배후에서 지휘한다는 방침을 세웠다. 정변의 목적은 일본수비대가 훈련대를 지원하여 대원군의 경복궁 입궐을 성사시킨 후, 명성황후를 암살하는 것이 정변의 목적이었다. 미우라와 스기무라는 정변 날짜를 결정했고 스기무라가 세부적인 준비를 담당하였다.
스기무라는 1896년 1월 명성황후 암살과 관련하여 히로시마재판소(廣島裁判所)에서 ‘증거불충분’으로 석방된 이후 잠시 대만총독부 사무관으로 근무하였다. 그는 1899년 일본 외무부 통상국장으로 복직하였다. 해외이주민계획을 입안한 그는 1904년 남미이민사업을 촉진하기 위해서 브라질 주재 일본공사로 임명되었다. 그는 1906년 이민사업을 추진하다가 브라질에서 병사하였다.