병바위는 마치 병을 뒤집어 놓은 형상을 하고 있는 것 같다고 하여 붙여진 이름이다. 신선이 술에 취해 술상을 발로 찼는데 술병이 거꾸로 꽂혀 병바위가 되었다는 재미있는 설화가 전해지고 있다. 그러나 실제로 병바위는 보는 각도에 따라 사람의 얼굴 형상을 하는 것처럼 보이기도 하다. 이와 같은 병바위는 유문암이라는 암석이 풍화․침식을 받아 형성된 것이다. 병바위 유문암은 주변 화산력응회암보다 단단하고 치밀하여 풍화에 강한 특징을 보이기 때문에, 유문암과 화산력응회암 간의 차별적인 풍화작용에 의해 형성된 유문암의 가파른 수직 암석 단애의 수려한 경관과 전형적인 타포니 구조를 관찰할 수 있어 지질학적 가치를 지닌다.