직관적으로 질문자님이 만드신 앱에서만 안뜨게 하시는게 목적이라고 하시면 파일사이즈가 0인것들은 예외하여 어댑터에 추가해주시면 됩니다.
new File("이미지 경로").length() 가 0인것들 제외
그러나 궁극적으로 MediaStore에 사이즈가 0인것이 들어가있는 경우 실제 파일이 삭제 되었지만 MediaStore와 동기화가 되지 않은 상태이므로 이를 제거해주는 방법은 다음과 같습니다.
sendBroadcast(new Intent(Intent.ACTION_MEDIA_MOUNTED, Uri.parse("file://"+Environment.getExternalStorageDirectory())));
예전이 이 방식으로 전체 미디어 스캐닝을 해줬던 기억이 나는데 특정 OS부터 안된다는 말을 들은거 같기도 하네요. 결과적으로는 미디어스캔을 하면 해결될 문제이니 위 방법으로 안되면 미디어 스캔하는 다른 코드를 찾아보시고 해결해 보시기 바랍니다.