원래 미타산의 8부 능선에 자리잡고 있었으나 조선초기 태조 이성계의 왕사(王師)를 지낸 무학대사가 사찰이 앉은 위치가 풍수지리에 맞지 않다고 하여 지금의 위치에 절을 옮겨지었다는 전설이 전하여 지고 있다.
무학대사는 풍수지리에 무척 밝았기 때문에 당시 이성계를 도와서 조선개국과 함께 한양에 도읍을 정하는데 결정적인 일역(一役)을 하였다는 일화는 누구나 다 알고있는 사실이니, 유학사의 전설 또한 전혀 근거 없는 것이 아닐 것으로 믿어진다.
전하는 바에 따르면 이 부근의 형세가 마치 날아가는 학의 형상을 닮았다고 하고, 예전에 유학사가 있던 자리는 그 학의 머리 부분에 해당하였다 하니 학의 머리에 절이 앉아서는 아니되고 지금의 위치에 사찰이 있어야만 학이 마치 절을 품고 있는 형상이 되어서 좋다는 것이다.
따라서 사찰의 이름도 학이 절을 품은 채 머무른다는 뜻으로 유학사라 하였다고 한다. 이때가 조선초기 정종 2년(1399년)이라 알려지고 있으며 그 뒤 무학대사는 오랫동안 이 유학사에 머물고 있다가 세상을 떠난 것으로 알려지고 있으나 이 말은 지금에 와서 상고(詳考)할 길이 없고, 다만 그러한 전설이 구전되고 있다는 사실만 기록할 따름이다.