1879年12月1日，出生於現在的長野縣安曇野市穂高的農家，排行五男。
立志成為畫家先後前往東京（1899年）、美國（1901年）及法國（1903年）。
因在巴黎深受羅丹作品《沉思者》的影響，由繪畫轉向為雕刻。回到紐約後一邊賺取學費一邊刻苦鑽研。
1906年，再度返回巴黎，在茱莉亞學院(Académie Julian)裡專心研究雕刻。1907年多次登門拜訪羅丹受教。荻原守衛在巴黎時期的作品有《坑夫》《女之胴》等。
自此時期開始使用「碌山」之筆名。
1907年12月隨著返國途中，拜訪義大利、希臘、埃及等多處內心憧憬的地點，於1908年3月回到日本。同年6月，在新宿設立工作室開始創作。透過作品的創作與發表論述而提倡「生命藝術」。創作《北條虎吉像》《女人》等作品，但不幸於1910年4月22日驟逝，享年30歲。
因此，他的作品並不多，現存僅有15件。《女人》與《北條虎吉像》被指定為日本重要文化財（其中6件作品在日本的近代雕刻裡被指定為重要文化財）。荻原守衛傳承著羅丹等西洋動感的同時，亦表現出東洋風格的靜態美感的雕刻。後來由深受荻原守衛藝術精神感召的才俊們繼承他的風格。