要解决Linux消息队列的内存溢出问题，可以采取以下几个步骤：
增加内核参数：通过调整内核参数可以增加消息队列的可用内存。可以修改/proc/sys/kernel/msgmni参数，增加消息队列的最大数量；修改/proc/sys/kernel/msgmax参数，增加单个消息的最大大小。
检查消息队列的使用情况：使用ipcs命令查看当前系统中消息队列的使用情况，包括消息队列的数量、大小、进程ID等。可以通过该命令来判断是否存在内存溢出的情况。
优化消息队列的使用：如果发现存在大量的无用消息或者消息积压，可以考虑优化消息队列的使用方式。例如，定期清理无用消息，增加消息处理的并发性，减少消息积压的可能性。
增加系统内存：如果以上方法都无法解决内存溢出问题，可以考虑增加系统的内存容量。通过增加系统的物理内存或者调整虚拟内存的大小，可以提供更多的内存空间给消息队列使用。
重新设计消息通信机制：如果以上方法都无法解决内存溢出问题，可能需要重新设计消息通信机制。可以考虑使用更高效的消息队列实现，或者使用其他方式进行进程间通信，如共享内存、管道等。
需要根据具体情况选择适合的解决方法，并进行合理的调整和优化。