일본 간토 지방 북서부에 있는 현이다. 현청 소재지는 마에바시 시이다.

일본의 8개 내륙현 중 하나인 군마 현은 간토 평야의 북서단에 있다. 인구가 집중된 중앙부와 남동부를 제외하고는 대부분이 산지이다. 북쪽에는 니가타현과 후쿠시마현, 동쪽에는 도치기현, 서쪽에는 나가노현, 남쪽에는 사이타마현이 놓여있다.

군마 현의 주요 산들로는 아카기 산, 하루나 산, 묘기 산, 닛코-시라네 산, 아사마 산 등이 있고 나가노 현과의 경계에 있다. 이 중 아카기 산, 하루나 산, 묘기 산은 '조모의 3대 산'으로 알려져있고 만화 이니셜 D의 배경이 되었다. 주요 강으로는 도네 강, 아가쓰마 강, 가라스 강이 있다.

그리고 일본에서 지평선을 볼 수 있는 가장 깊은 내륙에 위치해 있다.(도쿄 만에서 북북서쪽으로 약 120km 떨어져 있음)