Toolbar, bottomNavigationVviw, NavigationDrawer같은 앱의 외곽을 구성하는 뷰들은 MainActivity의 레이아웃에 집어넣으시면 됩니다. 물론 각각의 fragment가 포함을 할 수도 있는데, 이건 님의 선택사항입니다.
공통으로 사용할 경우는 화면의 이동에 따라 scaffold 뷰들을 보여주거나 감추거나 하시면 됩니다. FragmentMangager나 NavigationComponent를 사용하면 현재 어떤 fragment가 보이는 상태인지 체크할 수 있습니다.
Fragment만 사용하실 거라면 NavigationComponent를 사용하시는게 번거로움을 줄일 수 있습니다.
그리고 개발자 가이드와 가이드에 링크된 샘플코드를 참조하시면 충분히 참고가 되실 겁니다.
https://developer.android.com/guide/navigation/get-started