Fix potential integer overflow in bringetbitmap()
authorMichael Paquier <michael@paquier.xyz>
Tue, 14 Jan 2025 06:13:15 +0000 (15:13 +0900)
committerMichael Paquier <michael@paquier.xyz>
Tue, 14 Jan 2025 06:13:15 +0000 (15:13 +0900)
commitbfda7d8dd6b392c5d55bfb032aa7848b20227e12
treefc5c17f3dbfb2fa3dd7d6504d7d462bee2ad5f5b
parent116036d811cccacfb9eedb4f6261c9ecddcebcf3
Fix potential integer overflow in bringetbitmap()

This function expects an "int64" as result and stores the number of
pages to add to the index scan bitmap as an "int", multiplying its final
result by 10.  For a relation large enough, this can theoretically
overflow if counting more than (INT32_MAX / 10) pages, knowing that the
number of pages is upper-bounded by MaxBlockNumber.

To avoid the overflow, this commit redefines "totalpages", used to
calculate the result, to be an "int64" rather than an "int".

Reported-by: Evgeniy Gorbanyov
Author: James Hunter
Discussion: https://www.postgresql.org/message-id/07704817-6fa0-460c-b1cf-cd18f7647041@basealt.ru
Backpatch-through: 13
src/backend/access/brin/brin.c