Fix potential integer overflow in bringetbitmap()
authorMichael Paquier <michael@paquier.xyz>
Tue, 14 Jan 2025 06:13:19 +0000 (15:13 +0900)
committerMichael Paquier <michael@paquier.xyz>
Tue, 14 Jan 2025 06:13:19 +0000 (15:13 +0900)
commite35ff652056998e48c01c9e49c1a1b5ad6808f0a
tree017151bb4561e9f06199630be07b59d0092d56b1
parent9e596a099ad49ad45065203f232bebc535e7ff5a
Fix potential integer overflow in bringetbitmap()

This function expects an "int64" as result and stores the number of
pages to add to the index scan bitmap as an "int", multiplying its final
result by 10.  For a relation large enough, this can theoretically
overflow if counting more than (INT32_MAX / 10) pages, knowing that the
number of pages is upper-bounded by MaxBlockNumber.

To avoid the overflow, this commit redefines "totalpages", used to
calculate the result, to be an "int64" rather than an "int".

Reported-by: Evgeniy Gorbanyov
Author: James Hunter
Discussion: https://www.postgresql.org/message-id/07704817-6fa0-460c-b1cf-cd18f7647041@basealt.ru
Backpatch-through: 13
src/backend/access/brin/brin.c