Bug fixed by David Bruken. Fixed memory allocation issue in opj_malloc.h.
authorFrancois-Olivier Devaux <fodevaux@users.noreply.github.com>
Fri, 21 Dec 2007 10:19:01 +0000 (10:19 +0000)
committerFrancois-Olivier Devaux <fodevaux@users.noreply.github.com>
Fri, 21 Dec 2007 10:19:01 +0000 (10:19 +0000)
Possible errors in pi_create_encode handled

ChangeLog
libopenjpeg/opj_malloc.h
libopenjpeg/pi.c
libopenjpeg/pi.h
libopenjpeg/t2.c

index 1dd3b985654928c40ae8fcd570e907c9f271b60f..fc99684f0613db2160007a78c3ee955acaa4d8d0 100644 (file)
--- a/ChangeLog
+++ b/ChangeLog
@@ -5,6 +5,10 @@ What's New for OpenJPEG
 ! : changed
 + : added
 
+December 21, 2007
+* [FOD] Bug fixed by David Bruken. Fixed memory allocation issue in opj_malloc.h
+! [FOD] Possible errors in pi_create_encode handled
+
 December 19, 2007
 * [Antonin] changed variables names alpha, beta, gamma, delta in dwt.c to avoid re-declarations on Macosx
 ! [Parvatha] In pi.c, removed the Recursive function pi_check_next_level() and modified the code.
index 9b7c895623b197408a5e906fd57dd020abdb3026..57a51c6286a0f016a0dd472e657421f0776621fe 100644 (file)
-/*
- * Copyright (c) 2005, Herv� Drolon, FreeImage Team
- * Copyright (c) 2007, Callum Lerwick <seg@haxxed.com>
- * All rights reserved.
- *
- * Redistribution and use in source and binary forms, with or without
- * modification, are permitted provided that the following conditions
- * are met:
- * 1. Redistributions of source code must retain the above copyright
- *    notice, this list of conditions and the following disclaimer.
- * 2. Redistributions in binary form must reproduce the above copyright
- *    notice, this list of conditions and the following disclaimer in the
- *    documentation and/or other materials provided with the distribution.
- *
- * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS `AS IS'
- * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
- * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
- * ARE DISCLAIMED.  IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
- * LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
- * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
- * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
- * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
- * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
- * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
- * POSSIBILITY OF SUCH DAMAGE.
- */
-#ifndef __OPJ_MALLOC_H
-#define __OPJ_MALLOC_H
-/**
-@file opj_malloc.h
-@brief Internal functions
-
-The functions in opj_malloc.h are internal utilities used for memory management.
-*/
-
-/** @defgroup MISC MISC - Miscellaneous internal functions */
-/*@{*/
-
-/** @name Exported functions */
-/*@{*/
-/* ----------------------------------------------------------------------- */
-
-/**
-Allocate an uninitialized memory block
-@param size Bytes to allocate
-@return Returns a void pointer to the allocated space, or NULL if there is insufficient memory available
-*/
-#define opj_malloc(size) malloc(size)
-
-/**
-Allocate a memory block with elements initialized to 0
-@param num Blocks to allocate
-@param size Bytes per block to allocate
-@return Returns a void pointer to the allocated space, or NULL if there is insufficient memory available
-*/
-#define opj_calloc(num, size) calloc(num, size)
-
-/**
-Allocate memory aligned to a 16 byte boundry
-@param size Bytes to allocate
-@return Returns a void pointer to the allocated space, or NULL if there is insufficient memory available
-*/
-/* FIXME: These should be set with cmake tests, but we're currently not requiring use of cmake */
-#ifdef WIN32
-       /* Someone should tell the mingw people that their malloc.h ought to provide _mm_malloc() */
-       #ifdef __GNUC__
-               #include <mm_malloc.h>
-               #define HAVE_MM_MALLOC
-       #else /* MSVC, Intel C++ */
-               #include <malloc.h>
-               #ifdef _mm_malloc
-                       #define HAVE_MM_MALLOC
-               #endif
-       #endif
-#else /* Not WIN32 */
-       #if defined(__sun)
-               #define HAVE_MEMALIGN
-       /* Linux x86_64 and OSX always align allocations to 16 bytes */
-       #elif !defined(__amd64__) && !defined(__APPLE__)
-               /* FIXME: Yes, this is a big assumption */
-               #define HAVE_POSIX_MEMALIGN
-       #endif
-#endif
-
-#define opj_aligned_malloc(size) malloc(size)
-#define opj_aligned_free(m) free(m)
-
-#ifdef HAVE_MM_MALLOC
-       #undef opj_aligned_malloc
-       #define opj_aligned_malloc(size) _mm_malloc(size, 16)
-       #undef opj_aligned_free
-       #define opj_aligned_free(m) _mm_free(m)
-#endif
-
-#ifdef HAVE_MEMALIGN
-       extern void* memalign(size_t, size_t);
-       #undef opj_aligned_malloc
-       #define opj_aligned_malloc(size) memalign(16, (size))
-       #undef opj_aligned_free
-       #define opj_aligned_free(m) free(m)
-#endif
-
-#ifdef HAVE_POSIX_MEMALIGN
-       #undef opj_aligned_malloc
-       extern int posix_memalign(void**, size_t, size_t);
-
-       static INLINE void* __attribute__ ((malloc)) opj_aligned_malloc(size_t size){
-               void* mem = NULL;
-               posix_memalign(&mem, 16, size);
-               return mem;
-       }
-       #undef opj_aligned_free
-       #define opj_aligned_free(m) free(m)
-#endif
-
-/**
-Reallocate memory blocks.
-@param memblock Pointer to previously allocated memory block
-@param size New size in bytes
-@return Returns a void pointer to the reallocated (and possibly moved) memory block
-*/
-#define opj_realloc(m, s) realloc(m, s)
-
-/**
-Deallocates or frees a memory block.
-@param memblock Previously allocated memory block to be freed
-*/
-#define opj_free(m) free(m)
-
-#ifdef __GNUC__
-#pragma GCC poison malloc calloc realloc free
-#endif
-
-/* ----------------------------------------------------------------------- */
-/*@}*/
-
-/*@}*/
-
-#endif /* __OPJ_MALLOC_H */
-
+/*\r
+ * Copyright (c) 2005, Herv� Drolon, FreeImage Team\r
+ * Copyright (c) 2007, Callum Lerwick <seg@haxxed.com>\r
+ * All rights reserved.\r
+ *\r
+ * Redistribution and use in source and binary forms, with or without\r
+ * modification, are permitted provided that the following conditions\r
+ * are met:\r
+ * 1. Redistributions of source code must retain the above copyright\r
+ *    notice, this list of conditions and the following disclaimer.\r
+ * 2. Redistributions in binary form must reproduce the above copyright\r
+ *    notice, this list of conditions and the following disclaimer in the\r
+ *    documentation and/or other materials provided with the distribution.\r
+ *\r
+ * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS `AS IS'\r
+ * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE\r
+ * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE\r
+ * ARE DISCLAIMED.  IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE\r
+ * LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR\r
+ * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF\r
+ * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS\r
+ * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN\r
+ * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)\r
+ * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE\r
+ * POSSIBILITY OF SUCH DAMAGE.\r
+ */\r
+#ifndef __OPJ_MALLOC_H\r
+#define __OPJ_MALLOC_H\r
+/**\r
+@file opj_malloc.h\r
+@brief Internal functions\r
+\r
+The functions in opj_malloc.h are internal utilities used for memory management.\r
+*/\r
+\r
+/** @defgroup MISC MISC - Miscellaneous internal functions */\r
+/*@{*/\r
+\r
+/** @name Exported functions */\r
+/*@{*/\r
+/* ----------------------------------------------------------------------- */\r
+\r
+/**\r
+Allocate an uninitialized memory block\r
+@param size Bytes to allocate\r
+@return Returns a void pointer to the allocated space, or NULL if there is insufficient memory available\r
+*/\r
+#define opj_malloc(size) malloc(size)\r
+\r
+/**\r
+Allocate a memory block with elements initialized to 0\r
+@param num Blocks to allocate\r
+@param size Bytes per block to allocate\r
+@return Returns a void pointer to the allocated space, or NULL if there is insufficient memory available\r
+*/\r
+#define opj_calloc(num, size) calloc(num, size)\r
+\r
+/**\r
+Allocate memory aligned to a 16 byte boundry\r
+@param size Bytes to allocate\r
+@return Returns a void pointer to the allocated space, or NULL if there is insufficient memory available\r
+*/\r
+/* FIXME: These should be set with cmake tests, but we're currently not requiring use of cmake */\r
+#ifdef WIN32\r
+       /* Someone should tell the mingw people that their malloc.h ought to provide _mm_malloc() */\r
+       #ifdef __GNUC__\r
+               #include <mm_malloc.h>\r
+               #define HAVE_MM_MALLOC\r
+       #else /* MSVC, Intel C++ */\r
+               #include <malloc.h>\r
+               #ifdef _mm_malloc\r
+                       #define HAVE_MM_MALLOC\r
+               #endif\r
+       #endif\r
+#else /* Not WIN32 */\r
+       #if defined(__sun)\r
+                       #define HAVE_MEMALIGN\r
+               #elif defined(__GNUC__)\r
+                       #define HAVE_MEMALIGN\r
+                       #include <malloc.h>             \r
+               /* Linux x86_64 and OSX always align allocations to 16 bytes */\r
+               #elif !defined(__amd64__) && !defined(__APPLE__)        \r
+                       /* FIXME: Yes, this is a big assumption */\r
+                       #define HAVE_POSIX_MEMALIGN\r
+       #endif\r
+#endif\r
+\r
+\r
+\r
+#define opj_aligned_malloc(size) malloc(size)\r
+#define opj_aligned_free(m) free(m)\r
+\r
+#ifdef HAVE_MM_MALLOC\r
+       #undef opj_aligned_malloc\r
+       #define opj_aligned_malloc(size) _mm_malloc(size, 16)\r
+       #undef opj_aligned_free\r
+       #define opj_aligned_free(m) _mm_free(m)\r
+#endif\r
+\r
+#ifdef HAVE_MEMALIGN\r
+       extern void* memalign(size_t, size_t);\r
+       #undef opj_aligned_malloc\r
+       #define opj_aligned_malloc(size) memalign(16, (size))\r
+       #undef opj_aligned_free\r
+       #define opj_aligned_free(m) free(m)\r
+#endif\r
+\r
+#ifdef HAVE_POSIX_MEMALIGN\r
+       #undef opj_aligned_malloc\r
+       extern int posix_memalign(void**, size_t, size_t);\r
+\r
+       static INLINE void* __attribute__ ((malloc)) opj_aligned_malloc(size_t size){\r
+               void* mem = NULL;\r
+               posix_memalign(&mem, 16, size);\r
+               return mem;\r
+       }\r
+       #undef opj_aligned_free\r
+       #define opj_aligned_free(m) free(m)\r
+#endif\r
+\r
+/**\r
+Reallocate memory blocks.\r
+@param memblock Pointer to previously allocated memory block\r
+@param size New size in bytes\r
+@return Returns a void pointer to the reallocated (and possibly moved) memory block\r
+*/\r
+#define opj_realloc(m, s) realloc(m, s)\r
+\r
+/**\r
+Deallocates or frees a memory block.\r
+@param memblock Previously allocated memory block to be freed\r
+*/\r
+#define opj_free(m) free(m)\r
+\r
+#ifdef __GNUC__\r
+#pragma GCC poison malloc calloc realloc free\r
+#endif\r
+\r
+/* ----------------------------------------------------------------------- */\r
+/*@}*/\r
+\r
+/*@}*/\r
+\r
+#endif /* __OPJ_MALLOC_H */\r
+\r
index 45de9031da3ba097375c123921fd90c345336e2c..ac7654c5f14f65e8d3a6ebe62cff7ede39b140b2 100644 (file)
@@ -726,7 +726,7 @@ bool pi_next(opj_pi_iterator_t * pi) {
        return false;
 }
 
-void pi_create_encode( opj_pi_iterator_t *pi, opj_cp_t *cp,int tileno, int pino,int tpnum, int tppos, J2K_T2_MODE t2_mode,int cur_totnum_tp){
+bool pi_create_encode( opj_pi_iterator_t *pi, opj_cp_t *cp,int tileno, int pino,int tpnum, int tppos, J2K_T2_MODE t2_mode,int cur_totnum_tp){
        char prog[4];
        int i;
        int incr_top=1,resetX=0;
@@ -746,7 +746,9 @@ void pi_create_encode( opj_pi_iterator_t *pi, opj_cp_t *cp,int tileno, int pino,
                case RLCP: strncpy(prog, "RLCP",4);
                        break;
                case RPCL: strncpy(prog, "RPCL",4);
-                       break; 
+                       break;
+               case PROG_UNKNOWN: 
+                       return true;
        }
 
        if(!(cp->tp_on && ((!cp->cinema && (t2_mode == FINAL_PASS)) || cp->cinema))){
@@ -956,5 +958,6 @@ void pi_create_encode( opj_pi_iterator_t *pi, opj_cp_t *cp,int tileno, int pino,
                        } 
                }
        }       
+       return false;
 }
 
index 9498ead8b80302971f3f95c48e239cdf15d6a144..b5e0f6a4df85060d51be5c85576cd95a90deb9f0 100644 (file)
@@ -118,8 +118,9 @@ Modify the packet iterator for enabling tile part generation
 @param tpnum Tile part number of the current tile
 @param tppos The position of the tile part flag in the progression order
 @param cur_totnum_tp The total number of tile parts in the current tile
+@return Returns true if an error is detected 
 */
-void pi_create_encode( opj_pi_iterator_t *pi, opj_cp_t *cp,int tileno, int pino,int tpnum, int tppos, J2K_T2_MODE t2_mode,int cur_totnum_tp);
+bool pi_create_encode(opj_pi_iterator_t *pi, opj_cp_t *cp,int tileno, int pino,int tpnum, int tppos, J2K_T2_MODE t2_mode,int cur_totnum_tp);
 /**
 Create a packet iterator for Decoder
 @param image Raw image for which the packets will be listed
index a841cf0b1a3f9d71a2dd74367e980f373a5e6577..be9b42a41327b2f85aeea820a83eb04225673e98 100644 (file)
@@ -612,7 +612,10 @@ int t2_encode_packets(opj_t2_t* t2,int tileno, opj_tcd_tile_t *tile, int maxlaye
                        for(poc = 0; poc < pocno ; poc++){
                                int comp_len = 0;
                                int tpnum = compno;
-                               pi_create_encode(pi, cp,tileno,poc,tpnum,tppos,t2_mode,cur_totnum_tp); 
+                               if (pi_create_encode(pi, cp,tileno,poc,tpnum,tppos,t2_mode,cur_totnum_tp)) {
+                                       opj_event_msg(t2->cinfo, EVT_ERROR, "Error initializing Packet Iterator\n");
+                                       return -999;
+                               }
                                while (pi_next(&pi[poc])) {
                                        if (pi[poc].layno < maxlayers) {
                                                e = t2_encode_packet(tile, &cp->tcps[tileno], &pi[poc], c, dest + len - c, cstr_info, tileno);