신라 때 인도 승려인 광유(光有)가 창건하고 이름은 임정사(林井寺)라고 했다.
643년에
원효가 중창한 뒤 기림사로 이름을 바꾸었다고 전해진다. 기림사는 석가모니의 기원정사(祇園精舍)에서 '기'자를 따와 붙인 이름이다.
삼국유사에는 신라
신문왕이 감포 앞바다에서 동해의 용왕으로부터
만파식적과
옥대를 선물로 받았다는 전설이 실려 있는데, 이때 신문왕이 귀환하는 도중에 기림사 서쪽에서 쉬었다 갔다는 기록이 나온다. 따라서 창건 연대는 적어도 신문왕대로 거슬러 올라간다. 신문왕이 아버지 문무왕을 위해 지은 감은사의 터나 문무왕릉과 가까운 거리에 있다.
임진왜란 때는 전략적 요충지라 승병 운동의 중심지였다.
조선 철종 14년인 1863년에 화재로 소실된 것을 중건한 건물이 남아 있다. 보물 415호인 건칠보살좌상을 비롯하여, 소조비로자나삼존불, 기림사 삼층석탑, 목탑지, 조선 후기의 대표적인 불전 양식을 볼 수 있는 대적광전,
김시습의 사당인 매월당사 등을 보유하고 있다. 전쟁의 피해를 거의 입지 않아 문적과 어필이 다수 남아 있기도 하다.