这个错误是由于bookdown包使用了ctex宏包的mac字体集，但是在当前的LaTeX模式下，这个字体集是不可用的。
解决方法是使用其他可用的字体集，例如windows或fandol，可以在bookdown的YAML元数据中添加以下配置：
output:
bookdown::pdf_book:
latex_engine: xelatex
documentclass: ctexbook
fontset: fandol
这样就会使用fandol字体集来编译文档。
如果你确实需要使用mac字体集，你可以尝试使用xeCJK宏包来手动配置字体。在LaTeX文档的导言区添加以下代码：
\usepackage{xeCJK}
\usepackage{fontspec}
\setCJKmainfont{STSongti-SC-Regular}
\setCJKsansfont{STHeitiSC-Medium}
\setCJKmonofont{STFangsong}
\setmainfont{Times New Roman}
\setsansfont{Arial}
\setmonofont{Courier New}
这样就会使用指定的字体来编译文档。你可以根据自己的需求修改字体名称。