Debian上K8S部署的日志如何管理

在Debian上部署Kubernetes（K8S）集群后，日志管理是一个关键的运维任务。有效的日志管理可以帮助你监控、调试和分析应用程序，确保系统的稳定性和可靠性。以下是一些常见的日志管理方法和工具，适用于在Debian上运行的K8S集群。

1. 使用 kubectl logs 命令

kubectl logs 命令是获取Kubernetes集群中Pod日志的基本工具。你可以使用以下命令查看指定Pod的日志：

kubectl logs <pod-name>

例如，查看名为 nginx-pod 的Pod日志：

kubectl logs nginx-pod

2. 日志级别调整

Kubernetes组件的默认日志级别较低，可能无法显示所有详细信息。你可以通过调整日志级别来查看更详细的日志。例如，将 kube-apiserver 的日志级别调整为8：

vi /etc/kubernetes/manifests/kube-apiserver.yaml

在启动参数中添加：

- --v=8

然后重启 kube-apiserver 服务：

systemctl restart kube-apiserver

3. 使用 Fluentd 进行日志收集

Fluentd 是一个开源的日志收集器，可以与Kubernetes集群无缝集成。你可以通过部署Fluentd DaemonSet来收集每个节点和Pod的日志。

部署 Fluentd DaemonSet

创建一个名为 fluentd-daemonset.yaml 的文件，内容如下：

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: fluentd
  namespace: kube-system
spec:
  selector:
    matchLabels:
      name: fluentd
  template:
    metadata:
      labels:
        name: fluentd
    spec:
      serviceAccountName: fluentd
      terminationGracePeriodSeconds: 30
      dnsPolicy: ClusterFirstWithHostNet
      containers:
      - name: fluentd
        image: fluent/fluentd-kubernetes-daemonset:v1
        volumeMounts:
        - name: varlog
          mountPath: /var/log
          subPath: logs
        - name: varlibdockercontainers
          mountPath: /var/lib/docker/containers
          readOnly: true
  volumeClaimTemplates:
  - metadata:
      name: varlog
    spec:
      accessModes: [ "ReadWriteOnce" ]
      resources:
        requests:
          storage: 20Gi

应用配置：

kubectl apply -f fluentd-daemonset.yaml

4. 使用 Elasticsearch 和 Kibana 进行日志存储和展示

Elasticsearch 是一个分布式搜索引擎，用于存储和索引日志数据；Kibana 是一个可视化工具，用于查询和分析Elasticsearch中的日志数据。

部署 Elasticsearch 和 Kibana

你可以使用StatefulSet来部署Elasticsearch和Kibana。

Elasticsearch 创建一个名为 elasticsearch.yaml 的文件，内容如下：

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: elasticsearch
  namespace: kube-system
spec:
  serviceName: "elasticsearch"
  replicas: 1
  selector:
    matchLabels:
      app: elasticsearch
  template:
    metadata:
      labels:
        app: elasticsearch
    spec:
      containers:
      - name: elasticsearch
        image: docker.elastic.co/elasticsearch/elasticsearch:7.10.1
        ports:
        - containerPort: 9200
        volumeMounts:
        - name: es-persistent-storage
          mountPath: /usr/share/elasticsearch/data
  volumeClaimTemplates:
  - metadata:
      name: es-persistent-storage
    spec:
      accessModes: [ "ReadWriteOnce" ]
      resources:
        requests:
          storage: 20Gi

应用配置：

kubectl apply -f elasticsearch.yaml

Kibana 创建一个名为 kibana.yaml 的文件，内容如下：

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: kibana
  namespace: kube-system
spec:
  serviceName: "kibana"
  replicas: 1
  selector:
    matchLabels:
      app: kibana
  template:
    metadata:
      labels:
        app: kibana
    spec:
      containers:
      - name: kibana
        image: docker.elastic.co/kibana/kibana:7.10.1
        ports:
        - containerPort: 5601
        volumeMounts:
        - name: kibana-persistent-storage
          mountPath: /usr/share/kibana/data
  volumeClaimTemplates:
  - metadata:
      name: kibana-persistent-storage
    spec:
      accessModes: [ "ReadWriteOnce" ]
      resources:
        requests:
          storage: 10Gi

应用配置：

kubectl apply -f kibana.yaml

5. 使用 Filebeat 进行日志采集

Filebeat 是一个轻量级的日志处理工具，用于收集、处理和转发日志数据。

部署 Filebeat

创建一个名为 filebeat.yaml 的文件，内容如下：

filebeat.inputs:
- type: container
  paths:
  - /var/log/containers/*
  processors:
  - add_kubernetes_metadata:
      in_cluster: true
  output.elasticsearch:
    hosts: ["elasticsearch:9200"]

应用配置：

kubectl apply -f filebeat.yaml

你可以创建一个DaemonSet来自动部署Filebeat在每个节点上：

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: filebeat
  namespace: kube-system
spec:
  selector:
    matchLabels:
      name: filebeat
  template:
    metadata:
      labels:
        name: filebeat
    spec:
      serviceAccountName: filebeat
      terminationGracePeriodSeconds: 30
      dnsPolicy: ClusterFirstWithHostNet
      containers:
      - name: filebeat
        image: elastic/filebeat:7.10.1
        volumeMounts:
        - name: varlog
          mountPath: /var/log
          subPath: logs
        - name: varlibdockercontainers
          mountPath: /var/lib/docker/containers
          readOnly: true
  volumeClaimTemplates:
  - metadata:
      name: varlog
    spec:
      accessModes: [ "ReadWriteOnce" ]
      resources:
        requests:
          storage: 20Gi

应用配置：

kubectl apply -f filebeat.yaml

总结

通过以上步骤，你可以在Debian上部署一个完整的日志管理系统，使用Fluentd收集日志，Elasticsearch存储日志，Kibana进行日志展示。这种方案不仅高效，而且易于扩展，能够满足各种日志管理需求。