방금전에는 질문을 제대로 안 읽어 보고 답변을 달아서 다시 수정하여 올립니다.
1. 우선 커스텀 다이얼로그는 AlertDialog 가 아닌 그냥 Dialog 를 이용하세요.
2. 그리고 다음과 같이 코드를 작성하세요.
linearPopupMenuDialog = (LinearLayout) View.inflate(activity, R.layout.subview_mainsection_list_menu, null);
Dialog sectionPopupMenuDialog = new Dialog(activity);
sectionPopupMenuDialog.requestWindowFeature(Window.FEATURE_NO_TITLE);
sectionPopupMenuDialog.getWindow().setBackgroundDrawable(new ColorDrawable(Color.TRANSPARENT));
sectionPopupMenuDialog.setContentView(linearPopupMenuDialog);
// sectionPopupMenuDialog.setContentView(R.layout.subview_mainsection_list_menu);
sectionPopupMenuDialog.show();
원리는 다이얼로그 배경을 투명하게 하여 테두리도 같이 감추는 것 입니다.