위의 답변처럼 이미지를 hdpi, mdpi, xhdpi 등에 맞게 넣는 것도 방법이고요. 이미지 리소스를 여러벌 준비하는게 부담이시라면 좀 복잡해 보일 수는 있으나 layout_width나 layout_height를 wrap_content가 아니라 LinearLayout의 layout_weight를 이용해서 이미지나 뷰의 위치나 크기를 비율로 조절하는 방법도 있습니다.
예로 이미지를 중앙에 화면의 절반 크기로 배치한다고 하면 LinearLayout을 세로 방향으로 만들고 하위에 3개의 뷰를 넣는데 가운데 뷰를 가로방향 LinearLayout을 넣고 세 뷰의 비율을 각각 0.25, 0.5, 0.25로 설정해 줍니다.
가로 방향 LinearLayout에도 하위에 세 개의 뷰를 넣는데 가운데를 이미지 뷰로 해서 역시 각각 0.25, 0.5, 0.25의 비율로 넣어줍니다. 요런식으로 하면 뷰의 위치나 크기를 화면상의 비율로 배치할 수 있습니다.
불필요해 보이는 투명 뷰들을 여기저기 넣어야 해서 번거롭긴 하지만 이런 저런 단말 고려하는 것보다는 의외로 쉬울수도 있습니다.