公開サイトをやめる方法はありますか？

SharePointOnlineが自動的に作成・公開する「パブリックWebサイト」は無効にすることが出来ます。

公開Webサイトを無効化する方法