일본 혼슈의 서쪽 끝에 있는 현이다.

세토 내해와 동해에 접하고 있으며, 두 바다가 만나는 간몬 해협을 사이에 두고 규슈(후쿠오카 현)와 접하고 있다. 현청 소재지는 중앙부에 있는 야마구치 시이지만 경제적인 중심 도시는 규슈, 대한민국과 연결되고 있는 서단의 시모노세키 시이며, 인구 규모도 꽤 크다.

동쪽을 제외한 세방면이 바다에 둘러싸고 그 중앙부를 주고쿠 산지가 횡단하고 있다. 주고쿠 산지에서 발원하는 하천이 몇 개 존재하지만 하구 부근을 제외하면 해안에 평지는 많지 않고(특히 동해측), 내륙부의 강가를 중심으로 분지가 점재한다.