현재의 관음사는 원래 이 지역에 위치해 있던 보현사의 산내 암자로서, 고려 후기에 창건되어 안불암(安佛岩)이라 칭하였다고 한다. 누가 안불암을 창건했는지 알 수 없으나 일제 시대 전까지 불도의 도량으로 명맥을 유지했다.

안불암은 일제강점기에 폐사되어 사찰 터가 전답으로 사용되었다. 1958년부터 현주지의 부친인 김관용이 사찰 중건을 목적으로 부지를 조금씩 매입하기 시작했다. 1968년 현재 주지 법운 김정문이 사찰 중건을 시작하여 13년 동안의 대작 불사 끝에 전통 가람의 면모를 갖추었다.

1984년 구 「불교재산관리법」에 의거 한국불교 태고종 관음사로 불교 단체에 등록한 후, 수많은 불자들을 대상으로 수도와 참선을 지도하는 등 전법 도량의 전통 사찰로서의 기능을 다하고 있다.

2001년 3월 미얀마의 원도피 에일킬라 대승정이 법운에게 석가여래 진신 사리, 혈사리, 십대 제자 사리 등을 기증하였다. 이에 법운은 팔각구층석탑을 지어 석가여래 진신 사리 7과를 봉안하였다.