baim0-learn/linux/00 小问题记录.md

# ECS 实例 dmesg 时间与真实时间存在 10 分钟偏差

- **记录日期**：2026-09-24
- **现象**：`dmesg -T` 显示的时间戳与真实时间相差约 10 分钟（偏慢）。
- **根因**：系统默认时钟源（clocksource）为 `tsc`，该 TSC 频率偏慢 **33.7ppm**，累计 **220 天** 误差约 **641 秒**（≈ 10.7 分钟），导致系统时钟计数不准、dmesg 时间戳随之偏移。
- **解决**：GRUB 启动参数加入 `clocksource=kvm-clock` → 重新生成 grub 配置 → 重启实例，使 MONOTONIC 从 `kvm-clock` 重新起算。

## 1. 问题描述

ECS 实例 `dmesg -T` 打印的时间与真实时间（`date`）存在约 10 分钟偏差，且偏差随运行时长持续累积。内核日志自身的时序（先后顺序）是正确的，但**时间戳的绝对刻度不准**。

## 2. 原因分析

- 内核中存在多个可选时钟源（TSC、kvm-clock、hpet、acpi_pm 等），启动时会按优先级选定一个作为当前时钟源。
- 本实例默认选中了 `tsc`（Time Stamp Counter，CPU 内部计数器）。该 CPU 的 TSC 计数频率与标称频率存在偏差，实测**偏慢 33.7ppm**。
- ppm = parts per million，1ppm 即百万分之一：

  ```
  累计误差 = 33.7e-6 × 220 天 × 86400 秒/天
           = 33.7e-6 × 19,008,000
           ≈ 640.5 秒 ≈ 641 秒 ≈ 10.7 分钟
  ```

- 该 TSC 在虚拟化环境下不是可靠的授时基准（可能未与宿主机对齐、或缺少稳定/不变标志），误差会线性累积。
- `dmesg -T` 的时间戳由内核 `MONOTONIC` 时钟换算而来，时钟源偏慢直接反映为 dmesg 时间显示不准。
- `kvm-clock` 是 KVM 半虚拟化时钟源，直接读取宿主机提供的时钟信息，在同为虚拟机的 ECS 实例上精度显著更高，应优先使用。

## 3. 解决方案

### 步骤 1：修改 GRUB 启动参数

编辑 `/etc/default/grub`，在 `GRUB_CMDLINE_LINUX` 中追加 `clocksource=kvm-clock`，例如：

```sh
GRUB_CMDLINE_LINUX="... clocksource=kvm-clock"
```

也可用命令追加（避免手改出错）：

```sh
sed -i 's/\(GRUB_CMDLINE_LINUX="[^"]*\)"/\1 clocksource=kvm-clock"/' /etc/default/grub
grep GRUB_CMDLINE_LINUX /etc/default/grub
```

### 步骤 2：重新生成 GRUB 配置文件

> Alinux 的 grub 配置文件路径为 `/boot/efi/EFI/alinux/grub.cfg`（UEFI 引导）。

```sh
grub2-mkconfig -o /boot/efi/EFI/alinux/grub.cfg
```

### 步骤 3：重启实例

```sh
reboot
```

重启的必要性：只有重启后才会以新的启动参数引导，`MONOTONIC` 从 `kvm-clock` **重新开始计数**，`dmesg -T` 的时间显示随之恢复正常。

### 步骤 4：验证

```sh
# 当前时钟源，应显示 kvm-clock
cat /sys/devices/system/clocksource/clocksource0/current_clocksource

# 可选时钟源列表，修改前可先确认 kvm-clock 在列
cat /sys/devices/system/clocksource/clocksource0/available_clocksource

# 确认启动参数已生效
cat /proc/cmdline

# 观察 dmesg 时间戳与 date 是否一致
dmesg -T | tail
date
```

## 4. 备注

- 修改后 `dmesg` 中已有的历史日志时间戳会因 MONOTONIC 重新起算而重新计算，属正常现象。
- 若实例主要用于对时间精度敏感的场景（如日志审计、分布式追踪），建议同时确认 NTP/chrony 正常同步，二者互补：NTP 校正的是墙上时钟（`CLOCK_REALTIME`），clocksource 决定的是时基精度。
- 若 `available_clocksource` 中无 `kvm-clock`，说明宿主机/虚拟化环境不支持该时钟源，需改用其他精度更高的时钟源（如 `hpet`、`acpi_pm`）并排查宿主机侧问题。

---

# kdump 实战：让 hung_task 与 softlockup 触发 vmcore

## 0. 总结（TL;DR）

目标是**在内核出现 hung_task（进程长期 D 状态不切出）或 softlockup（CPU 上任务长时间不让出）时，自动 panic 并触发 kdump，把现场落到 `/var/crash` 下的 vmcore**，供后续 `crash` 工具做根因分析。

最短路径：

```bash
# 1) 开启并确认 kdump 服务
systemctl enable --now kdump
systemctl status kdump

# 2) 配置两个 panic 开关
echo 'kernel.hung_task_panic=1'  >> /etc/sysctl.conf
echo 'kernel.softlockup_panic=1' >> /etc/sysctl.conf
sysctl -p

# 3) 复现后取证
ls -l /var/crash/
crash /usr/lib/debug/lib/modules/$(uname -r)/vmlinux /var/crash/<时间戳>/vmcore
```

> 前提：内核已预留 crashkernel 内存且 kdump 服务处于 active。若 `crashkernel` 没预留，需要改 GRUB 后重启。

---

## 操作一：开启 kdump 服务

### 1.1 确认内核已预留 crashkernel 内存

kdump 需要一个**独立预留的内存区域**（capture kernel）来在内核崩溃后接管系统。检查方式：

```bash
grep -o 'crashkernel=[^ ]*' /proc/cmdline
cat /sys/kernel/kexec_crash_size    # 非 0 表示已预留
```

- 较新发行版通常默认 `crashkernel=auto`（RHEL/CentOS 7+）或 `crashkernel=1G-4G:192M,4G-64G:256M,64G-:512M`。
- 若输出为空或 `kexec_crash_size` 为 0，需要在 GRUB 里补上，例如：

```bash
# /etc/default/grub
GRUB_CMDLINE_LINUX="... crashkernel=512M"

# 重新生成 grub 配置
grub2-mkconfig -o /boot/grub2/grub.cfg   # BIOS
grub2-mkconfig -o /boot/efi/EFI/centos/grub.cfg  # UEFI（路径按发行版调整）
# 然后重启
```

### 1.2 安装并启动 kdump 服务

```bash
# 安装（按发行版）
yum install -y kexec-tools        # RHEL/CentOS
apt install -y kdump-tools       # Debian/Ubuntu

# 开启并立即启动
systemctl enable --now kdump

# 校验
systemctl status kdump
kdumpctl status 2>/dev/null || true
```

### 1.3 确认 kdump 就绪

```bash
cat /sys/kernel/kexec_crash_loaded   # 期望 1
ls -l /var/crash/                     # 崩溃后 vmcore 落在这里
```

### 1.4 关键配置项（/etc/kdump.conf）

| 配置项 | 说明 |
|---|---|
| `path /var/crash` | vmcore 落盘目录 |
| `core_collector makedumpfile -l --message-level 1 -d 31` | 用 makedumpfile 压缩、并过滤掉全零页等无用页，显著减小 vmcore 体积 |
| `default reboot` | dump 完成后重启 |
| `ext4 /dev/vg/root` 等 | 根分区未挂载时的兜底落盘目标 |

> 提示：`-d 31` 会过滤掉零页、缓存页等，**排查时不要用 `-d 0`（体积巨大），也不建议过滤过多**；若怀疑内存内容相关，保留默认即可。

---

## 操作二：配置 hung_task 与 softlockup 触发 panic

内核默认检测到 hung_task / softlockup 时**只打印告警日志，不会 panic**，所以现场不会产生 vmcore。需要打开 panic 开关。

```bash
cat >> /etc/sysctl.conf <<'EOF'
kernel.hung_task_panic=1
kernel.softlockup_panic=1
EOF

# 或使用 sysctl.d（推荐，语义更清晰）
# cat > /etc/sysctl.d/99-kdump-panic.conf <<'EOF'
# kernel.hung_task_panic=1
# kernel.softlockup_panic=1
# EOF
```

### 2.1 两个开关的含义

| 参数 | 含义 | 默认值 |
|---|---|---|
| `kernel.hung_task_panic` | 检测到 D 状态（不可中断睡眠）任务超时后，触发 panic | 0（只告警） |
| `kernel.softlockup_panic` | 检测到 softlockup（某 CPU 上任务长时间不调度）后，触发 panic | 0（只告警） |

### 2.2 配套可调参数（按需）

```bash
kernel.hung_task_timeout_secs = 120   # hung_task 判定超时，默认 120s
kernel.hung_task_warnings     = 10    # 告警打印条数，-1 表示不限
kernel.watchdog_thresh        = 10    # softlockup 检测阈值基数，默认 10s
kernel.nmi_watchdog           = 1     # Hardlockup 依赖 NMI 看门狗
kernel.hardlockup_panic       = 1     # 硬锁（中断被长时间关闭）也 panic，按需
kernel.panic_on_oops          = 1     # Oops 即 panic，按需
```

### 2.3 注意事项

- **softlockup 检测依赖 watchdog 线程本身能运行**：若 CPU 长时间关中断，属于 hardlockup，需靠 `nmi_watchdog` + `hardlockup_panic` 捕获。
- 部分内核 `softlockup_panic` 受编译选项约束；若写入失败，可检查 `CONFIG_BOOTPARAM_SOFTLOCKUP_PANIC`，或改用内核启动参数 `softlockup_panic=1`。
- `hung_task_panic=1` 对**合法长 D 状态**（如大 IO、网络存储挂起）也会 panic，生产环境务必评估影响，建议先在测试环境验证。

---

## 操作三：使配置生效

```bash
# 方式一：立即加载 sysctl.conf
sysctl -p

# 方式二：只加载某个 sysctl.d 文件
sysctl -p /etc/sysctl.d/99-kdump-panic.conf

# 方式三：重启（持久生效，也是兜底手段）
reboot
```

### 3.1 生效校验

```bash
sysctl kernel.hung_task_panic kernel.softlockup_panic
# kernel.hung_task_panic = 1
# kernel.softlockup_panic = 1

# kdump 侧确认
systemctl is-active kdump
cat /sys/kernel/kexec_crash_loaded    # 1
```

> 建议同时确认 `kdump` 开机自启：`systemctl is-enabled kdump`。

---

## 操作四：复现后取证与分析

### 4.1 vmcore 落盘位置

问题复现后，系统会 panic → kexec 启动 capture kernel → 由 kdump 把内存镜像写入：

```
/var/crash/<时间戳>/vmcore
/var/crash/<时间戳>/vmcore-dmesg.txt
```

```bash
ls -lh /var/crash/
cat /var/crash/<时间戳>/vmcore-dmesg.txt | tail -50   # 先看崩溃瞬间的 dmesg
```

### 4.2 用 crash 工具做根因分析

```bash
# 安装 debuginfo（以 CentOS 为例）
debuginfo-install kernel-$(uname -r)

# 加载 vmcore
crash /usr/lib/debug/lib/modules/$(uname -r)/vmlinux \
      /var/crash/<时间戳>/vmcore
```

常用 crash 命令：

| 命令 | 用途 |
|---|---|
| `bt` / `bt -a` | 查看崩溃时各 CPU 的调用栈（hung_task/softlockup 常看这里） |
| `log` | 崩溃前的内核日志缓冲 |
| `ps` / `foreach bt` | 进程状态与全量栈，定位 D 状态任务 |
| `vm` | 内存与页状态概览 |
| `sys` | 系统基本信息（版本、panic 原因等） |
| `dis -l <addr>` | 反汇编定位到源码行 |

### 4.3 可选：手动触发一次转储做演练

```bash
# 需确认 kernel.sysrq=1 且 kdump 已就绪，演练会重启系统
echo c > /proc/sysrq-trigger
```

---

## 操作五：常见问题排查（Q&A）

- **`/var/crash` 下没有 vmcore**
  - `kdump` 服务未运行或未开机自启：`systemctl is-active kdump` / `is-enabled`。
  - crashkernel 未预留：看 `/proc/cmdline` 与 `/sys/kernel/kexec_crash_size`。
  - panic 未触发：确认 `hung_task_panic` / `softlockup_panic` 已为 1，且告警类型确实是这两种。
- **复现了但只看到告警日志、没有 panic**
  - 说明只命中了 hung_task/softlockup 告警路径，检查 sysctl 是否被其他配置覆盖（`sysctl -a | grep -E 'hung_task|softlockup'`）。
- **`softlockup_panic=1` 写入报不存在**
  - 内核编译未开放该 sysctl，改用启动参数 `softlockup_panic=1`，或升级/更换内核。
- **vmcore 特别大，把磁盘写满**
  - 确认 `core_collector` 使用 `makedumpfile -d 31` 过滤；必要时落盘到独立分区。
- **生产环境慎用**
  - `hung_task_panic=1` 可能把「可自愈的长 D 状态」也变成宕机，建议先用 `hung_task_timeout_secs` 调大、并在测试环境验证。