hideishiさん、こんにちは。

/etc/letsencrypt/renewal/削除したホスト名.conf
/etc/letsencrypt/live/削除したホスト名/
/etc/letsencrypt/archive/削除したホスト名/

既にmvコマンドでこれらを削除した後なので、教えていただいた一覧コマンドで削除したホスト名が残っているか確認してみました。
# /usr/local/certbot/certbot-auto certificates

削除したホスト名は表示されないので無事削除されたと考えます。

次回は教えていただいた以下の証明書削除コマンドを試してみます。
# /usr/local/certbot/certbot-auto delete –cert-name ホスト名

ありがとうございました。