[MJ2] To avoid divisions by zero / undefined behaviour on shift

Signed-off-by: Young_X <YangX92@hotmail.com>

Merge pull request #1160 from hlef/master

jp3d/jpwl convert: fix write stack buffer overflow

openjp3d: Int overflow fixed (#1159)

When compressing a lot of slices (starting from 44 FullHD slices with 3 8bit components in our experiments) the rate values are high enough to cause an int overflow that leads to negative lengths and wrong results. The cast happens too late.

jp2: convert: fix null pointer dereference

Tile components in a JP2 image might have null data pointer by defining a
zero component size (for example using large horizontal or vertical
sampling periods). This null data pointer leads to null image component
data pointer, causing crash when dereferenced without != null check in
imagetopnm.

Add != null check.

This commit addresses #1152 (CVE-2018-18088).

jp3d/jpwl convert: fix write stack buffer overflow

Missing buffer length formatter in fscanf call might lead to write
stack buffer overflow.

fixes #1044 (CVE-2017-17480)

Fix some potential overflow issues (#1161)

* Fix some potential overflow issues

Put sizeof to the beginning of the multiplication to enforce that
size_t instead of smaller integer types is used for the calculation.

This fixes warnings from LGTM:

    Multiplication result may overflow 'unsigned int'
    before it is converted to 'unsigned long'.

It also allows removing some type casts.

Signed-off-by: Stefan Weil <sw@weilnetz.de>
* Fix code indentation

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Merge pull request #1163 from nforro/memory-and-resource-leaks

Fix several memory and resource leaks

Fix several memory and resource leaks

Signed-off-by: Nikola Forró <nforro@redhat.com>

opj_thread_pool_setup(): fix infinite waiting if a thread creation failed

Merge pull request #1148 from hlef/master

CVE-2018-5785: fix issues with zero bitmasks

opj_jp2_apply_pclr(): remove useless assert that can trigger on some files (fixes #1125)

Merge branch 'pr1095'

opj_mj2_extract: Check provided output prefix for length

This uses snprintf() with correct buffer length instead of sprintf(), which
prevents a buffer overflow when providing a long output prefix. Furthermore
the program exits with an error when the provided output prefix is too long.

Fixes #1088.

Merge branch 'pr1107'

opj_mj2_extract: Avoid segfault for long filenames

Merge pull request #1136 from reverson/master

Cast on uint ceildiv

Merge pull request #1119 from stweil/ssize_t

Use local type declaration for POSIX standard type only for MS compiler

Merge pull request #1128 from stweil/typos

Fix some typos in code comments and documentation

Merge pull request #1140 from bukatlib/fix_relpath

Relative path to header files is hardcoded in OpenJPEGConfig.cmake.in file

Merge pull request #1141 from szukw000/changes-in-pnmtoimage

Changes in pnmtoimage if image data are missing

Merge pull request #1143 from stweil/format

openjp2/jp2: Fix two format strings

Merge pull request #1149 from rouault/fix_knownfailures

Update knownfailures- files given current configurations

Update knownfailures- files given current configurations

convertbmp: fix issues with zero bitmasks

In the case where a BMP file declares compression 3 (BI_BITFIELDS)
with header size <= 56, all bitmask values keep their initialization
value 0. This may lead to various undefined behavior later e.g. when
doing 1 << (l_comp->prec - 1).

This issue does not affect files with bit count 16 because of a check
added in 16240e2 which sets default values to the color masks if they
are all 0.

This commit adds similar checks for the 32 bit case.

Also, if a BMP file declares compression 3 with header size >= 56 and
intentional 0 bitmasks, the same issue will be triggered in both the
16 and 32 bit count case.

This commit adds checks to bmp_read_info_header() rejecting BMP files
with "intentional" 0 bitmasks. These checks might be removed in the
future when proper handling of zero bitmasks will be available in
openjpeg2.

fixes #1057 (CVE-2018-5785)

openjp2/jp2: Fix two format strings

Compiler warnings:

src/lib/openjp2/jp2.c:1008:35: warning:
 too many arguments for format [-Wformat-extra-args]
src/lib/openjp2/j2k.c:1928:73: warning:
 format ‘%d’ expects argument of type ‘int’, but argument 4 has type ‘OPJ_OFF_T {aka long int}’ [-Wformat=]

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Fix some typos in code comments and documentation

All typos were found by Codespell.

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Changes in pnmtoimage if image data are missing

The change makes a relative path to header files
always correct regardless of the number of sub-
directories in OPENJPEG_INSTALL_PACKAGE_DIR variable.

Cast on uint ceildiv

Merge pull request #1133 from robe2/robe2-pkgconfig-instructions

Add -DBUILD_PKGCONFIG_FILES to install instructions

Add -DBUILD_PKGCONFIG_FILES to install instructions

Building under msys/mingw doesn't automatically install the pkg config files needed to build GDAL and other libraries

Merge pull request #1121 from rouault/fix_tnsot_zero

Fix regression in reading files with TNsot == 0 (refs #1120)

Add test cases for https://github.com/uclouvain/openjpeg/issues/1120 and https://bugs.chromium.org/p/oss-fuzz/issues/detail?id=2785

Avoid assertion when running opj_j2k_merge_ppt() several time due to e6674f7ed66abdb32a0be5944f618722b6a7b5d5 revert. Fixes https://bugs.chromium.org/p/oss-fuzz/issues/detail?id=2785

Revert "Avoid assertion in opj_j2k_merge_ppt() in case premature EOC is encountered in opj_j2k_read_tile_header(). Fixes https://bugs.chromium.org/p/oss-fuzz/issues/detail?id=2785. Credit to OSS Fuzz" (fixes #1120)

This reverts commit 9906fbf737692486cebabe98169988d818e2e66a.
which broke decoding of images where TNsot == 0

Use local type declaration for POSIX standard type only for MS compiler

ssize_t is a POSIX type which is declared in POSIX include files.
Mingw-w64 provides it also for Windows.

Use the local declaration only with MS compilers.

Signed-off-by: Stefan Weil <sw@weilnetz.de>

opj_compress: try to make help message of -c switch clearer (fixes #1117)

opj_compress: fix help message regarding default precinct size

Merge pull request #1104 from rouault/macos_fix

Fix Mac builds

Fix Mac builds

Merge pull request #1062 from radarhere/master

Fixed typos

Merge pull request #1094 from kbabioch/fix/missing-format-string-parameter

mj2: Add missing variable to format string in fprintf() invocation in meta_out.c

Merge pull request #1096 from kbabioch/fix/opj_mj2_extract-help

opj_mj2_extract: Rename output_location to output_prefix

Merge pull request #1101 from kbabioch/fix/jp3d-sprintf-overflow

jp3d: Replace sprintf() by snprintf() in volumetobin()

jp3d: Replace sprintf() by snprintf() in volumetobin()

This replaces the unsafe sprintf() invocation by the safer snprintf()
one, with the correct buffer size to prevent buffer overflows.

This fixes #1085.

opj_mj2_extract: Rename output_location to output_prefix

This renames the argument in the help output, as the latter better describes
the the purpose of this argument.

mj2: Add missing variable to format string in fprintf() invocation in meta_out.c

This adds the appropriate variables to the invocation of fprintf(). They were
specified in the format string, but were missing in the actual call. This
fixes #1074 and #1075.

Merge pull request #1090 from stweil/utf8

Convert files to UTF-8 encoding

.travis.yml: temporarily disable OPJ_CI_ASAN=1 (refs #1091)

openjp3d: Convert ISO-8859 to UTF-8

Signed-off-by: Stefan Weil <sw@weilnetz.de>

jp3d: Convert ISO-8859 to UTF-8

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Merge pull request #1080 from setharnold/patch-1

fix unchecked integer multiplication overflow

bench_dwt: fix wrong index in iteration (issue found by Fethi Migaou)

fix unchecked integer multiplication overflow

Hello, this fixes an unchecked integer multiplication overflow. Thanks.

Avoid out-of-bounds write overflow due to uint32 overflow computation on images with huge dimensions. Credit to Google Autofuzz project for providing test case

Fixed typos

Merge pull request #1055 from ideasman42/patch-1

Note that seek uses SEEK_SET behavior.

Note that seek uses SEEK_SET behavior.

opj_t2_encode_packet(): disable setting empty packet header bit to 1 when there is an empty packet

This effectively reverts commit 2609fb8077125b5b31f1bcc2f98c12ff1e6572d7
since it has been reported that
such packets cause decoding issues with cinema J2K hardware
decoders: https://groups.google.com/forum/#!topic/openjpeg/M7M_fLX_Bco

Merge pull request #1047 from stweil/coverity

Fix resource leak (CID 179466)

Merge pull request #1050 from szukw000/changes-for-obsolete-doxygen-tags

Some Doxygen tags are removed

Add known failure for Windows VC10 i386 target (refs #1043)

Some Doxygen tags are removed

Fix resource leak (CID 179466)

Coverity report:

CID 179466 (#1 of 1): Resource leak (RESOURCE_LEAK)
93. leaked_storage: Variable name going out of scope leaks the storage it points to.

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Add known failure for i386 target (refs #1043)

opj_j2k_read_cod: remove check for 'No more than one COD marker per tile' (fixes #1043)

This check was added per https://github.com/uclouvain/openjpeg/commit/daed8cc9195555e101ab708a501af2dfe6d5e001
to fix https://github.com/uclouvain/openjpeg/issues/476 , but it does not seem
to be necessary with latest master (issue476.jp2 doesn't cause memory issues),
and breaks reading legit files.

Fix typo in comments

Merge pull request #1042 from radarhere/cmake

Changed cmake version test to allow for cmake 2.8.11.x

Changed cmake version test to allow for cmake 2.8.11.x

Merge pull request #1037 from gfiumara/master

Add missing fclose() statement in error condition.

Add missing fclose() statement in error condition.

CMakeLists.txt: turn BUILD_PKGCONFIG_FILES ON by default on Windows if compiler is GCC

opj_j2k_set_threads(): add sanity check to error out if called after opj_read_header()

Improve doc of opj_codec_set_threads()

Unix build: fix regression of 2.3.0 where a shared-only or static-only build lacks the installation target for the library (#1019, fixes regression introduced by 3dfc6ca2bcf06fd1adb6b6b4cecc6c092f08ba0b)

opj_decompress -h: document -threads ALL_CPUS

Finalise ABI check update for v2.3.0

Update ABI check for v2.3.0

Update CHANGELOG.md

Update NEWS.md

Update CHANGELOG.md

Update NEWS.md

Preparing v2.3.0 release

Merge pull request #1028 from quangnh89/master

update instructions to build with Visual Studio and 64-Bit Visual C++ Toolset.

update instructions to build with Visual Studio and 64-Bit Visual C++ Toolset.

Merge pull request #1022 from rouault/partial_component_decoding

Add capability to decode only a subset of all components of an image.

Remove opjstyle binary that went inadvertently committed in d4e54e9f35d532062533f1d369c159810b01d224 (#1026)

INSTALL.md: add instructions to build with Visual Studio (#1023, from Winfried instructions)

Merge pull request #1024 from stweil/warnings

Add missing newline at end of file

Add missing newline at end of file

This fixes warnings from the clang compiler:

/openjpeg/src/lib/openjp2/sparse_array.h:141:32: warning:
 no newline at end of file [-Wnewline-eof]

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Add assertion

Comment dead code (Coverity CID 94681)

Workaround Coverity CID 113061

Workaround Coverity CID 169392

opj_j2k_get_default_thread_count(): validate value of OPJ_NUM_THREADS to fix Coverity 179465 and 179463

Fix copy&paste error (Coverity CID 169394)

opj_decompress: add a warning when -d and -t are used together (#693)

Use a #define J2K_MAX_POCS 32 to avoid hard-coded constant (#349)

Avoid index-out-of-bounds access when invoking opj_compress with -n 11 or higher. But not a proper fix itself (refs #493)

Avoid relying on operator precedence (raised by cppcheck)