국립중앙박물관의 소속기관이다. 1997년 3월 20일 발족하였으며, 경상남도 김해시 가야의길 190에 위치하고 있다.. 관장은 학예연구관으로 보한다.

가야의 문화유산을 집대성하기 위해 1998년 7월 29일 개관하였다. 그 상징성을 높이기 위해 가야의 건국신화가 깃든 김해시 구지봉 기슭에 자리를 잡고 있다. 다른 국립박물관들과는 달리 가야시대 테마를 중심으로 가야유물의 고고학 중심의 유적과 유물이 공개되어 있다.

1998년 개관한 본관은 철광석과 숯을 이미지화 한 검은색 벽돌을 사용하여 철의 왕국 가야를 상징적으로 표현하였으며, 건축가 장세양(1947년 ~ 1996년)의 유작으로 알려져 있다. 2006년 12월 15일 개관한 《가야누리》는 단순하고 기하학적인 비례를 사용하여 박물관 본관과의 이질감을 줄이고 하나의 배경같은 요소로서 건물을 설계하였으며, 건축가 공순구(1960년 ~ )의 작품이다.