에페소는 기원전 1500~1000년 사이에 처음 세워졌다고 알려져 있다. 전설에 의하면 아테네 왕자 안드로클로스(Androklos)의 지휘하에 그리스의 이주민들이 아나톨리아에 처음 정착하게 되었는데 그 때 그가 현인들에게 그들의 새도시가 어디에 세워질 것인가에 대해 물었다고 한다. 현인들이 예언하기를 야생 멧돼지 한마리와 물고기 한마리가 그들을 새도시로 이끌 것이라고 했다.

  어느 날 야외에서 안드로클로스가 생선을 굽다 그 중 한마리가 팬에서 미끄러져 가까운 숲 속으로 떨어졌고 이와함께 튄 불똥이 숲에 번지자 사나운 멧돼지 한마리가 불을 피해 튀쳐 나왔다. 예언자들의 말을 기억한 안드로클로스는 도망치는 멧돼지를 쫓아 죽이고 바로 그 자리 즉 아르테미스 신전에서 서쪽으로 1200미터 떨어진 고대 에페소가 있던 곳에 그들의 새도시를 세웠다. 기원전 7세기 에페소는 키메르(Cimmerian)인에 의해 아르테미스 신전을 포함하여 도시가 완전히 파괴되었고 이후 이 곳은 그리스의 참주들에 의해 다스려졌다.

  기원전 6세기경 에페소는 리디아왕국의 군주 크로이소스(Croesus)의 지배를 잠시 받긴 하였으나 곧 페르시아에 정복되었고 다시 알렉산더 대왕의 손으로 넘어갔다. 아나톨리아 지방을 지나가던 알렉산더 대왕은 크로이소스에 의해 재건된 아르테미스 신전의 아름다움에 빠져 이 곳을 정복함으로써 에페소는 평온을 되찾고 융성해지기 시작했다. 이후 리시마쿠스(Lysimachos)는 피온산(Mt. Pion)과 코레쏘스산(Mt. Koressos) 중간에 새로운 도시를 건설하고 이 곳을 높이 10미터 총길이 9Km의 성벽으로 요새화시켰다. 오늘날까지 남아있는 원형극장, 경기장과 체육관 등의 유적은 이 당시 지어진 것이다.

  기원전 88년, 에페소인들은 폰터스(Pontus)와 연합하여 로마인들에게 대항하였으나 로마의 세력 팽창이 엄청날 것을 알아차린 에페소인들은 곧 로마편으로 돌아섰다. 이로써 에페소는 로마의 동맹국이 되었을 뿐 아니라 로마제국 아시아속주의 수도로 부상하였다. 뿐안아니라 이 곳을 거대 항구가 있는 아시아 무역항로의 종착지이기도 하였다. 그러나 이와 같은 번영도 서기 17년에 일어났던 대진으로 한순간에 무너져 폐허로 변하였다.

  교회 역사에서 에페소는 예수의 모친 마리아와 제자 사도 요한과 관련된 곳으로 알려져 있다. 사도 요한은 예수의 어머니 마리아를 모시고 바울로 인해 복음이 왕성히 전해지고 있다는 에페소로 오게 되었다. 에페소에 도착한 요한과 마리아를 위하여 에페소 성도들은 바다가 내려다 보이는 전망 좋은 곳에 거처를 마련해 주었다. 이후 바오로 2세가 성모마리아의 집을 방문하여 신성하고 중요한 곳이라고 선언함으로써 이 곳은 카톨릭교회의 성지로 지정되었다.