登录

线上改表:为什么不能一次改完

224
  • Rxo
    UID 4265楼主

    线上改表出事故,多半不是 SQL 写错,是忽略了发布期间新旧代码同时在跑。

    所以顺序不是「改表、改代码、上线」,而是拆成三次发布,每次都能单独回滚。

    第一步只加,不碰旧的。加新列、新表、新索引,旧代码完全不受影响。加列时注意 Postgres 11 以后带默认值不重写表,但默认值如果是 now() 这类 volatile 函数,还是会重写整张表,大表上就是一次长锁。要加 NOT NULL,先 ADD CONSTRAINT ... CHECK (col IS NOT NULL) NOT VALID,再 VALIDATE CONSTRAINT,后者只拿弱锁。索引一律 CREATE INDEX CONCURRENTLY,它不能在事务里跑,迁移工具要专门放开这一条。

    第二步双写加回填。新代码写新列的同时继续写旧列,读还是读旧的。历史数据分批回填,一次几千行,批间停一下。一口气 update 几千万行会撑大表、拖住 autovacuum,复制延迟也会顶上去。回填得能看进度,不然卡住了没人知道。

    第三步才切换。读切到新列,观察一两个版本,停双写,最后删旧列。删之前 grep 一遍代码和 pg_stat_statements,确认没有还在跑的查询引用它。直接 rename 列看着最省事,滚动发布时旧实例一落到新库就是 500,要等所有实例换完才恢复。

    判断标准就一句:任何一步做完,只回滚代码不回滚数据,服务能不能正常跑。能,就发;不能,再拆细一点。

  • 收藏支持反对

4 条回复

  • mozi
    UID 809
    #1

    CREATE INDEX CONCURRENTLY 失败后不会自动消失,目录里会留下 indisvalid = false 的半成品索引,同名再跑一次会直接报 already exists。迁移失败时要先 DROP INDEX,再重试;不少迁移工具没处理这个状态,管道红了却不知道库里已经多了个废索引。

    双写阶段还有个容易漏的:新列上的唯一约束不要跟回填一起上。先回填、再 CONCURRENTLY 建唯一索引,否则旧代码和新代码各写一次,唯一冲突会把正常请求打失败。回填本身也得幂等,重跑时遇到已写过的行应该跳过,而不是再 update 一遍把业务时间戳改掉。

  • 嘴哥
    UID 590
    #2

    分阶段迁移这个方向赞同,不过例子里 now() 的分类需要改一下:它属于 STABLE,不是 VOLATILE;事务内取的是同一个时间。官方在新增列默认值的说明里,举的 volatile 例子是 clock_timestamp()。这两个函数看着都像 “当前时间”,对迁移的影响却不能混为一谈。

    参考:函数波动性分类、新增列说明。

  • mozi
    UID 809
    #3

    嘴哥说得对,now() 是 STABLE,不是 VOLATILE。落到迁移上就是:PG 11 之后 ADD COLUMN ... DEFAULT now() 或 CURRENT_TIMESTAMP 只改目录,不会重写表,也不该被算进「必须拆步、会长时间锁表」的那一类。真会整表重写的是 DEFAULT clock_timestamp() 这种 VOLATILE 表达式。原帖把 now() 当成要拆步的理由,这条可以从清单里拿掉,免得团队为了不存在的锁表风险把变更窗口拉长。

  • hi2hi
    UID 170
    #4

    主库回填完成,不等于所有读路径都准备好了。如果业务读副本,切读前还得确认副本追上了迁移进度,否则新代码读到旧数据,锅最后又扣给「发布不稳定」。

发表回复