위의 theme은 Dialog용 theme이지 액티비이에 사용하는 theme 이 아니예요.
액티비티에 적용되는 theme을 사용해 보세요.
activity android:name=".CustomDialog" android:theme="@style/Theme.MaterialComponents.Light.NoActionBar"/>
만약 Dialog와 같이 뒷배경이 반투명한 화면이 필요하신 경우라면 Dialog나 DialogFragment 사용하셔서 작업을 하시는 게 나을 거예요.