먼저 답변하신 분 말씀처럼 dp, wrap, match를 사용해도 되지만
다양한 디바이스에 모두 최적화 하거나 GUI 구현 사항이 복잡하면 그것만으로 해결하기 어려운 경우가 대부분 입니다.
dp와 dpi를 잘 이해 하셨다면 개발자 페이지 (Supporting Multiple Screens)를 참고하시면 기본 구조는 파악이 되실 겁니다.
구글링을 하시면 국내 개발자 분들의 좋은 자료가 많이 나오구요.
폴더를 구분해서 사용하는건 맞지만 픽셀 단위의 해상도로 구분하는건 아니고
dp, dpi, 화면 회전 등의 속성을 조합해서 폴더 이름을 지어 사용하게 됩니다.
폴더 네이밍에 따른 참조 우선 순위가 있으니 추가로 검색해 보시는게 좋습니다.