Avoid mislabeling of lateral references, redux.
authorTom Lane <tgl@sss.pgh.pa.us>
Sat, 30 Nov 2024 17:42:19 +0000 (12:42 -0500)
committerTom Lane <tgl@sss.pgh.pa.us>
Sat, 30 Nov 2024 17:42:19 +0000 (12:42 -0500)
commite032e4c7ddd0e1f7865b246ec18944365d4f8614
tree286bb7dbbaf214b99fab8344d5c65bf595b299de
parent49ae9fd8b7081c075b74889449b29d47fd80eaf3
Avoid mislabeling of lateral references, redux.

As I'd feared, commit 5c9d8636d was still a few bricks shy of a load.
We can't just leave pulled-up lateral-reference Vars with no new
nullingrels: we have to carefully compute what subset of the
to-be-replaced Var's nullingrels apply to them, else we still get
"wrong varnullingrels" errors.  This is a bit tedious, but it looks
like we can use the nullingrel data this patch computes for other
purposes, enabling better optimization.  We don't want to inject
unnecessary plan changes into stable branches though, so leave that
idea for a later HEAD-only patch.

Patch by me, but thanks to Richard Guo for devising a test case that
broke 5c9d8636d, and for preliminary investigation about how to fix
it.  As before, back-patch to v16.

Discussion: https://postgr.es/m/E1tGn4j-0003zi-MP@gemulon.postgresql.org
src/backend/optimizer/prep/prepjointree.c
src/test/regress/expected/subselect.out
src/test/regress/sql/subselect.sql
src/tools/pgindent/typedefs.list