要设置自定义DNS服务器，您需要完成以下步骤：
选择一个合适的DNS服务器软件：有许多开源的DNS服务器软件可供选择，如Bind、PowerDNS、Unbound等。您可以根据自己的需求选择适合的软件。
安装和配置DNS服务器：根据您选择的软件，按照其官方文档提供的安装和配置指南，安装并配置DNS服务器。
设置DNS解析：在DNS服务器的配置文件中，您需要添加您自定义的DNS解析记录。这些记录指定了域名和IP地址之间的映射关系。您可以添加A记录、CNAME记录、MX记录等等，具体取决于您的需求。
设置转发和递归：如果您希望您的自定义DNS服务器能够处理来自其他DNS服务器的查询请求，您需要设置转发和递归功能。转发功能允许您的DNS服务器将某些查询请求转发给其他DNS服务器，而递归功能则允许您的DNS服务器向其他DNS服务器查询请求。
修改网络设置：将您的自定义DNS服务器的IP地址配置给您的设备，以便使用您的自定义DNS服务器进行域名解析。您可以在操作系统的网络设置中进行修改。
测试和调试：完成设置后，您可以使用一些DNS查询工具，如dig或nslookup，来测试您的自定义DNS服务器是否能够正确解析域名。
请注意，设置自定义DNS服务器需要一定的技术知识和经验。如果您不熟悉DNS服务器的设置和配置，建议寻求专业人士的帮助。