Fix alignment in BRIN minmax-multi deserialization
authorTomas Vondra <tomas.vondra@postgresql.org>
Fri, 26 Mar 2021 15:33:19 +0000 (16:33 +0100)
committerTomas Vondra <tomas.vondra@postgresql.org>
Fri, 26 Mar 2021 15:48:36 +0000 (16:48 +0100)
commit73b96bad4af8fd113a36e4633dd3312001c115dc
treee9f90f1d8ede39a5af974209ddb30c5091bac9c5
parentab596105b55f1d7fbd5a66b66f65227d210b047d
Fix alignment in BRIN minmax-multi deserialization

The deserialization failed to ensure correct alignment, as it assumed it
can simply point into the serialized value. The serialization however
ignores alignment and copies just the significant bytes in order to make
the result as small as possible. This caused failures on systems that
are sensitive to mialigned addresses, like sparc, or with address
sanitizer enabled.

Fixed by copying the serialized data to ensure proper alignment. While
at it, fix an issue with serialization on big endian machines, using the
same store_att_byval/fetch_att trick as extended statistics.

Discussion: https://postgr.es/0c8c3304-d3dd-5e29-d5ac-b50589a23c8c%40enterprisedb.com
src/backend/access/brin/brin_minmax_multi.c