opj_pi_next_pcrl(): avoid undefined shift behaviour. Fixes https://bugs.chromium...
[openjpeg.git] / src / lib / openjp2 / pi.c
1 /*
2  * The copyright in this software is being made available under the 2-clauses
3  * BSD License, included below. This software may be subject to other third
4  * party and contributor rights, including patent rights, and no such rights
5  * are granted under this license.
6  *
7  * Copyright (c) 2002-2014, Universite catholique de Louvain (UCL), Belgium
8  * Copyright (c) 2002-2014, Professor Benoit Macq
9  * Copyright (c) 2001-2003, David Janssens
10  * Copyright (c) 2002-2003, Yannick Verschueren
11  * Copyright (c) 2003-2007, Francois-Olivier Devaux
12  * Copyright (c) 2003-2014, Antonin Descampe
13  * Copyright (c) 2005, Herve Drolon, FreeImage Team
14  * Copyright (c) 2006-2007, Parvatha Elangovan
15  * All rights reserved.
16  *
17  * Redistribution and use in source and binary forms, with or without
18  * modification, are permitted provided that the following conditions
19  * are met:
20  * 1. Redistributions of source code must retain the above copyright
21  *    notice, this list of conditions and the following disclaimer.
22  * 2. Redistributions in binary form must reproduce the above copyright
23  *    notice, this list of conditions and the following disclaimer in the
24  *    documentation and/or other materials provided with the distribution.
25  *
26  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS `AS IS'
27  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
28  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
29  * ARE DISCLAIMED.  IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
30  * LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
31  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
32  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
33  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
34  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
35  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
36  * POSSIBILITY OF SUCH DAMAGE.
37  */
38
39 #include "opj_includes.h"
40
41 /** @defgroup PI PI - Implementation of a packet iterator */
42 /*@{*/
43
44 /** @name Local static functions */
45 /*@{*/
46
47 /**
48 Get next packet in layer-resolution-component-precinct order.
49 @param pi packet iterator to modify
50 @return returns false if pi pointed to the last packet or else returns true
51 */
52 static OPJ_BOOL opj_pi_next_lrcp(opj_pi_iterator_t * pi);
53 /**
54 Get next packet in resolution-layer-component-precinct order.
55 @param pi packet iterator to modify
56 @return returns false if pi pointed to the last packet or else returns true
57 */
58 static OPJ_BOOL opj_pi_next_rlcp(opj_pi_iterator_t * pi);
59 /**
60 Get next packet in resolution-precinct-component-layer order.
61 @param pi packet iterator to modify
62 @return returns false if pi pointed to the last packet or else returns true
63 */
64 static OPJ_BOOL opj_pi_next_rpcl(opj_pi_iterator_t * pi);
65 /**
66 Get next packet in precinct-component-resolution-layer order.
67 @param pi packet iterator to modify
68 @return returns false if pi pointed to the last packet or else returns true
69 */
70 static OPJ_BOOL opj_pi_next_pcrl(opj_pi_iterator_t * pi);
71 /**
72 Get next packet in component-precinct-resolution-layer order.
73 @param pi packet iterator to modify
74 @return returns false if pi pointed to the last packet or else returns true
75 */
76 static OPJ_BOOL opj_pi_next_cprl(opj_pi_iterator_t * pi);
77
78 /**
79  * Updates the coding parameters if the encoding is used with Progression order changes and final (or cinema parameters are used).
80  *
81  * @param   p_cp        the coding parameters to modify
82  * @param   p_tileno    the tile index being concerned.
83  * @param   p_tx0       X0 parameter for the tile
84  * @param   p_tx1       X1 parameter for the tile
85  * @param   p_ty0       Y0 parameter for the tile
86  * @param   p_ty1       Y1 parameter for the tile
87  * @param   p_max_prec  the maximum precision for all the bands of the tile
88  * @param   p_max_res   the maximum number of resolutions for all the poc inside the tile.
89  * @param   p_dx_min        the minimum dx of all the components of all the resolutions for the tile.
90  * @param   p_dy_min        the minimum dy of all the components of all the resolutions for the tile.
91  */
92 static void opj_pi_update_encode_poc_and_final(opj_cp_t *p_cp,
93         OPJ_UINT32 p_tileno,
94         OPJ_INT32 p_tx0,
95         OPJ_INT32 p_tx1,
96         OPJ_INT32 p_ty0,
97         OPJ_INT32 p_ty1,
98         OPJ_UINT32 p_max_prec,
99         OPJ_UINT32 p_max_res,
100         OPJ_UINT32 p_dx_min,
101         OPJ_UINT32 p_dy_min);
102
103 /**
104  * Updates the coding parameters if the encoding is not used with Progression order changes and final (and cinema parameters are used).
105  *
106  * @param   p_cp        the coding parameters to modify
107  * @param   p_num_comps     the number of components
108  * @param   p_tileno    the tile index being concerned.
109  * @param   p_tx0       X0 parameter for the tile
110  * @param   p_tx1       X1 parameter for the tile
111  * @param   p_ty0       Y0 parameter for the tile
112  * @param   p_ty1       Y1 parameter for the tile
113  * @param   p_max_prec  the maximum precision for all the bands of the tile
114  * @param   p_max_res   the maximum number of resolutions for all the poc inside the tile.
115  * @param   p_dx_min        the minimum dx of all the components of all the resolutions for the tile.
116  * @param   p_dy_min        the minimum dy of all the components of all the resolutions for the tile.
117  */
118 static void opj_pi_update_encode_not_poc(opj_cp_t *p_cp,
119         OPJ_UINT32 p_num_comps,
120         OPJ_UINT32 p_tileno,
121         OPJ_INT32 p_tx0,
122         OPJ_INT32 p_tx1,
123         OPJ_INT32 p_ty0,
124         OPJ_INT32 p_ty1,
125         OPJ_UINT32 p_max_prec,
126         OPJ_UINT32 p_max_res,
127         OPJ_UINT32 p_dx_min,
128         OPJ_UINT32 p_dy_min);
129 /**
130  * Gets the encoding parameters needed to update the coding parameters and all the pocs.
131  *
132  * @param   p_image         the image being encoded.
133  * @param   p_cp            the coding parameters.
134  * @param   tileno          the tile index of the tile being encoded.
135  * @param   p_tx0           pointer that will hold the X0 parameter for the tile
136  * @param   p_tx1           pointer that will hold the X1 parameter for the tile
137  * @param   p_ty0           pointer that will hold the Y0 parameter for the tile
138  * @param   p_ty1           pointer that will hold the Y1 parameter for the tile
139  * @param   p_max_prec      pointer that will hold the maximum precision for all the bands of the tile
140  * @param   p_max_res       pointer that will hold the maximum number of resolutions for all the poc inside the tile.
141  * @param   p_dx_min            pointer that will hold the minimum dx of all the components of all the resolutions for the tile.
142  * @param   p_dy_min            pointer that will hold the minimum dy of all the components of all the resolutions for the tile.
143  */
144 static void opj_get_encoding_parameters(const opj_image_t *p_image,
145                                         const opj_cp_t *p_cp,
146                                         OPJ_UINT32  tileno,
147                                         OPJ_INT32  * p_tx0,
148                                         OPJ_INT32 * p_tx1,
149                                         OPJ_INT32 * p_ty0,
150                                         OPJ_INT32 * p_ty1,
151                                         OPJ_UINT32 * p_dx_min,
152                                         OPJ_UINT32 * p_dy_min,
153                                         OPJ_UINT32 * p_max_prec,
154                                         OPJ_UINT32 * p_max_res);
155
156 /**
157  * Gets the encoding parameters needed to update the coding parameters and all the pocs.
158  * The precinct widths, heights, dx and dy for each component at each resolution will be stored as well.
159  * the last parameter of the function should be an array of pointers of size nb components, each pointer leading
160  * to an area of size 4 * max_res. The data is stored inside this area with the following pattern :
161  * dx_compi_res0 , dy_compi_res0 , w_compi_res0, h_compi_res0 , dx_compi_res1 , dy_compi_res1 , w_compi_res1, h_compi_res1 , ...
162  *
163  * @param   p_image         the image being encoded.
164  * @param   p_cp            the coding parameters.
165  * @param   tileno          the tile index of the tile being encoded.
166  * @param   p_tx0           pointer that will hold the X0 parameter for the tile
167  * @param   p_tx1           pointer that will hold the X1 parameter for the tile
168  * @param   p_ty0           pointer that will hold the Y0 parameter for the tile
169  * @param   p_ty1           pointer that will hold the Y1 parameter for the tile
170  * @param   p_max_prec      pointer that will hold the maximum precision for all the bands of the tile
171  * @param   p_max_res       pointer that will hold the maximum number of resolutions for all the poc inside the tile.
172  * @param   p_dx_min        pointer that will hold the minimum dx of all the components of all the resolutions for the tile.
173  * @param   p_dy_min        pointer that will hold the minimum dy of all the components of all the resolutions for the tile.
174  * @param   p_resolutions   pointer to an area corresponding to the one described above.
175  */
176 static void opj_get_all_encoding_parameters(const opj_image_t *p_image,
177         const opj_cp_t *p_cp,
178         OPJ_UINT32 tileno,
179         OPJ_INT32 * p_tx0,
180         OPJ_INT32 * p_tx1,
181         OPJ_INT32 * p_ty0,
182         OPJ_INT32 * p_ty1,
183         OPJ_UINT32 * p_dx_min,
184         OPJ_UINT32 * p_dy_min,
185         OPJ_UINT32 * p_max_prec,
186         OPJ_UINT32 * p_max_res,
187         OPJ_UINT32 ** p_resolutions);
188 /**
189  * Allocates memory for a packet iterator. Data and data sizes are set by this operation.
190  * No other data is set. The include section of the packet  iterator is not allocated.
191  *
192  * @param   p_image     the image used to initialize the packet iterator (in fact only the number of components is relevant.
193  * @param   p_cp        the coding parameters.
194  * @param   tileno  the index of the tile from which creating the packet iterator.
195  */
196 static opj_pi_iterator_t * opj_pi_create(const opj_image_t *p_image,
197         const opj_cp_t *p_cp,
198         OPJ_UINT32 tileno);
199 /**
200  * FIXME DOC
201  */
202 static void opj_pi_update_decode_not_poc(opj_pi_iterator_t * p_pi,
203         opj_tcp_t * p_tcp,
204         OPJ_UINT32 p_max_precision,
205         OPJ_UINT32 p_max_res);
206 /**
207  * FIXME DOC
208  */
209 static void opj_pi_update_decode_poc(opj_pi_iterator_t * p_pi,
210                                      opj_tcp_t * p_tcp,
211                                      OPJ_UINT32 p_max_precision,
212                                      OPJ_UINT32 p_max_res);
213
214 /**
215  * FIXME DOC
216  */
217 static OPJ_BOOL opj_pi_check_next_level(OPJ_INT32 pos,
218                                         opj_cp_t *cp,
219                                         OPJ_UINT32 tileno,
220                                         OPJ_UINT32 pino,
221                                         const OPJ_CHAR *prog);
222
223 /*@}*/
224
225 /*@}*/
226
227 /*
228 ==========================================================
229    local functions
230 ==========================================================
231 */
232
233 static void opj_pi_emit_error(opj_pi_iterator_t * pi, const char* msg)
234 {
235     (void)pi;
236     (void)msg;
237 }
238
239 static OPJ_BOOL opj_pi_next_lrcp(opj_pi_iterator_t * pi)
240 {
241     opj_pi_comp_t *comp = NULL;
242     opj_pi_resolution_t *res = NULL;
243     OPJ_UINT32 index = 0;
244
245     if (!pi->first) {
246         comp = &pi->comps[pi->compno];
247         res = &comp->resolutions[pi->resno];
248         goto LABEL_SKIP;
249     } else {
250         pi->first = 0;
251     }
252
253     for (pi->layno = pi->poc.layno0; pi->layno < pi->poc.layno1; pi->layno++) {
254         for (pi->resno = pi->poc.resno0; pi->resno < pi->poc.resno1;
255                 pi->resno++) {
256             for (pi->compno = pi->poc.compno0; pi->compno < pi->poc.compno1; pi->compno++) {
257                 comp = &pi->comps[pi->compno];
258                 if (pi->resno >= comp->numresolutions) {
259                     continue;
260                 }
261                 res = &comp->resolutions[pi->resno];
262                 if (!pi->tp_on) {
263                     pi->poc.precno1 = res->pw * res->ph;
264                 }
265                 for (pi->precno = pi->poc.precno0; pi->precno < pi->poc.precno1; pi->precno++) {
266                     index = pi->layno * pi->step_l + pi->resno * pi->step_r + pi->compno *
267                             pi->step_c + pi->precno * pi->step_p;
268                     /* Avoids index out of bounds access with */
269                     /* id_000098,sig_11,src_005411,op_havoc,rep_2 of */
270                     /* https://github.com/uclouvain/openjpeg/issues/938 */
271                     /* Not sure if this is the most clever fix. Perhaps */
272                     /* include should be resized when a POC arises, or */
273                     /* the POC should be rejected */
274                     if (index >= pi->include_size) {
275                         opj_pi_emit_error(pi, "Invalid access to pi->include");
276                         return OPJ_FALSE;
277                     }
278                     if (!pi->include[index]) {
279                         pi->include[index] = 1;
280                         return OPJ_TRUE;
281                     }
282 LABEL_SKIP:
283                     ;
284                 }
285             }
286         }
287     }
288
289     return OPJ_FALSE;
290 }
291
292 static OPJ_BOOL opj_pi_next_rlcp(opj_pi_iterator_t * pi)
293 {
294     opj_pi_comp_t *comp = NULL;
295     opj_pi_resolution_t *res = NULL;
296     OPJ_UINT32 index = 0;
297
298     if (!pi->first) {
299         comp = &pi->comps[pi->compno];
300         res = &comp->resolutions[pi->resno];
301         goto LABEL_SKIP;
302     } else {
303         pi->first = 0;
304     }
305
306     for (pi->resno = pi->poc.resno0; pi->resno < pi->poc.resno1; pi->resno++) {
307         for (pi->layno = pi->poc.layno0; pi->layno < pi->poc.layno1; pi->layno++) {
308             for (pi->compno = pi->poc.compno0; pi->compno < pi->poc.compno1; pi->compno++) {
309                 comp = &pi->comps[pi->compno];
310                 if (pi->resno >= comp->numresolutions) {
311                     continue;
312                 }
313                 res = &comp->resolutions[pi->resno];
314                 if (!pi->tp_on) {
315                     pi->poc.precno1 = res->pw * res->ph;
316                 }
317                 for (pi->precno = pi->poc.precno0; pi->precno < pi->poc.precno1; pi->precno++) {
318                     index = pi->layno * pi->step_l + pi->resno * pi->step_r + pi->compno *
319                             pi->step_c + pi->precno * pi->step_p;
320                     if (index >= pi->include_size) {
321                         opj_pi_emit_error(pi, "Invalid access to pi->include");
322                         return OPJ_FALSE;
323                     }
324                     if (!pi->include[index]) {
325                         pi->include[index] = 1;
326                         return OPJ_TRUE;
327                     }
328 LABEL_SKIP:
329                     ;
330                 }
331             }
332         }
333     }
334
335     return OPJ_FALSE;
336 }
337
338 static OPJ_BOOL opj_pi_next_rpcl(opj_pi_iterator_t * pi)
339 {
340     opj_pi_comp_t *comp = NULL;
341     opj_pi_resolution_t *res = NULL;
342     OPJ_UINT32 index = 0;
343
344     if (!pi->first) {
345         goto LABEL_SKIP;
346     } else {
347         OPJ_UINT32 compno, resno;
348         pi->first = 0;
349         pi->dx = 0;
350         pi->dy = 0;
351         for (compno = 0; compno < pi->numcomps; compno++) {
352             comp = &pi->comps[compno];
353             for (resno = 0; resno < comp->numresolutions; resno++) {
354                 OPJ_UINT32 dx, dy;
355                 res = &comp->resolutions[resno];
356                 if (res->pdx + comp->numresolutions - 1 - resno < 32 &&
357                         comp->dx <= UINT_MAX / (1u << (res->pdx + comp->numresolutions - 1 - resno))) {
358                     dx = comp->dx * (1u << (res->pdx + comp->numresolutions - 1 - resno));
359                     pi->dx = !pi->dx ? dx : opj_uint_min(pi->dx, dx);
360                 }
361                 if (res->pdy + comp->numresolutions - 1 - resno < 32 &&
362                         comp->dy <= UINT_MAX / (1u << (res->pdy + comp->numresolutions - 1 - resno))) {
363                     dy = comp->dy * (1u << (res->pdy + comp->numresolutions - 1 - resno));
364                     pi->dy = !pi->dy ? dy : opj_uint_min(pi->dy, dy);
365                 }
366             }
367         }
368         if (pi->dx == 0 || pi->dy == 0) {
369             return OPJ_FALSE;
370         }
371     }
372     if (!pi->tp_on) {
373         pi->poc.ty0 = pi->ty0;
374         pi->poc.tx0 = pi->tx0;
375         pi->poc.ty1 = pi->ty1;
376         pi->poc.tx1 = pi->tx1;
377     }
378     for (pi->resno = pi->poc.resno0; pi->resno < pi->poc.resno1; pi->resno++) {
379         for (pi->y = pi->poc.ty0; pi->y < pi->poc.ty1;
380                 pi->y += (OPJ_INT32)(pi->dy - (OPJ_UINT32)(pi->y % (OPJ_INT32)pi->dy))) {
381             for (pi->x = pi->poc.tx0; pi->x < pi->poc.tx1;
382                     pi->x += (OPJ_INT32)(pi->dx - (OPJ_UINT32)(pi->x % (OPJ_INT32)pi->dx))) {
383                 for (pi->compno = pi->poc.compno0; pi->compno < pi->poc.compno1; pi->compno++) {
384                     OPJ_UINT32 levelno;
385                     OPJ_INT32 trx0, try0;
386                     OPJ_INT32  trx1, try1;
387                     OPJ_UINT32  rpx, rpy;
388                     OPJ_INT32  prci, prcj;
389                     comp = &pi->comps[pi->compno];
390                     if (pi->resno >= comp->numresolutions) {
391                         continue;
392                     }
393                     res = &comp->resolutions[pi->resno];
394                     levelno = comp->numresolutions - 1 - pi->resno;
395                     /* Avoids division by zero */
396                     /* Relates to id_000004,sig_06,src_000679,op_arith8,pos_49,val_-17 */
397                     /* of  https://github.com/uclouvain/openjpeg/issues/938 */
398                     if (levelno >= 32 ||
399                             ((comp->dx << levelno) >> levelno) != comp->dx ||
400                             ((comp->dy << levelno) >> levelno) != comp->dy) {
401                         continue;
402                     }
403                     if ((comp->dx << levelno) > INT_MAX ||
404                             (comp->dy << levelno) > INT_MAX) {
405                         continue;
406                     }
407                     trx0 = opj_int_ceildiv(pi->tx0, (OPJ_INT32)(comp->dx << levelno));
408                     try0 = opj_int_ceildiv(pi->ty0, (OPJ_INT32)(comp->dy << levelno));
409                     trx1 = opj_int_ceildiv(pi->tx1, (OPJ_INT32)(comp->dx << levelno));
410                     try1 = opj_int_ceildiv(pi->ty1, (OPJ_INT32)(comp->dy << levelno));
411                     rpx = res->pdx + levelno;
412                     rpy = res->pdy + levelno;
413
414                     /* To avoid divisions by zero / undefined behaviour on shift */
415                     /* in below tests */
416                     /* Fixes reading id:000026,sig:08,src:002419,op:int32,pos:60,val:+32 */
417                     /* of https://github.com/uclouvain/openjpeg/issues/938 */
418                     if (rpx >= 31 || ((comp->dx << rpx) >> rpx) != comp->dx ||
419                             rpy >= 31 || ((comp->dy << rpy) >> rpy) != comp->dy) {
420                         continue;
421                     }
422
423                     /* See ISO-15441. B.12.1.3 Resolution level-position-component-layer progression */
424                     if (!((pi->y % (OPJ_INT32)(comp->dy << rpy) == 0) || ((pi->y == pi->ty0) &&
425                             ((try0 << levelno) % (1 << rpy))))) {
426                         continue;
427                     }
428                     if (!((pi->x % (OPJ_INT32)(comp->dx << rpx) == 0) || ((pi->x == pi->tx0) &&
429                             ((trx0 << levelno) % (1 << rpx))))) {
430                         continue;
431                     }
432
433                     if ((res->pw == 0) || (res->ph == 0)) {
434                         continue;
435                     }
436
437                     if ((trx0 == trx1) || (try0 == try1)) {
438                         continue;
439                     }
440
441                     prci = opj_int_floordivpow2(opj_int_ceildiv(pi->x,
442                                                 (OPJ_INT32)(comp->dx << levelno)), (OPJ_INT32)res->pdx)
443                            - opj_int_floordivpow2(trx0, (OPJ_INT32)res->pdx);
444                     prcj = opj_int_floordivpow2(opj_int_ceildiv(pi->y,
445                                                 (OPJ_INT32)(comp->dy << levelno)), (OPJ_INT32)res->pdy)
446                            - opj_int_floordivpow2(try0, (OPJ_INT32)res->pdy);
447                     pi->precno = (OPJ_UINT32)(prci + prcj * (OPJ_INT32)res->pw);
448                     for (pi->layno = pi->poc.layno0; pi->layno < pi->poc.layno1; pi->layno++) {
449                         index = pi->layno * pi->step_l + pi->resno * pi->step_r + pi->compno *
450                                 pi->step_c + pi->precno * pi->step_p;
451                         if (index >= pi->include_size) {
452                             opj_pi_emit_error(pi, "Invalid access to pi->include");
453                             return OPJ_FALSE;
454                         }
455                         if (!pi->include[index]) {
456                             pi->include[index] = 1;
457                             return OPJ_TRUE;
458                         }
459 LABEL_SKIP:
460                         ;
461                     }
462                 }
463             }
464         }
465     }
466
467     return OPJ_FALSE;
468 }
469
470 static OPJ_BOOL opj_pi_next_pcrl(opj_pi_iterator_t * pi)
471 {
472     opj_pi_comp_t *comp = NULL;
473     opj_pi_resolution_t *res = NULL;
474     OPJ_UINT32 index = 0;
475
476     if (!pi->first) {
477         comp = &pi->comps[pi->compno];
478         goto LABEL_SKIP;
479     } else {
480         OPJ_UINT32 compno, resno;
481         pi->first = 0;
482         pi->dx = 0;
483         pi->dy = 0;
484         for (compno = 0; compno < pi->numcomps; compno++) {
485             comp = &pi->comps[compno];
486             for (resno = 0; resno < comp->numresolutions; resno++) {
487                 OPJ_UINT32 dx, dy;
488                 res = &comp->resolutions[resno];
489                 if (res->pdx + comp->numresolutions - 1 - resno < 32 &&
490                         comp->dx <= UINT_MAX / (1u << (res->pdx + comp->numresolutions - 1 - resno))) {
491                     dx = comp->dx * (1u << (res->pdx + comp->numresolutions - 1 - resno));
492                     pi->dx = !pi->dx ? dx : opj_uint_min(pi->dx, dx);
493                 }
494                 if (res->pdy + comp->numresolutions - 1 - resno < 32 &&
495                         comp->dy <= UINT_MAX / (1u << (res->pdy + comp->numresolutions - 1 - resno))) {
496                     dy = comp->dy * (1u << (res->pdy + comp->numresolutions - 1 - resno));
497                     pi->dy = !pi->dy ? dy : opj_uint_min(pi->dy, dy);
498                 }
499             }
500         }
501         if (pi->dx == 0 || pi->dy == 0) {
502             return OPJ_FALSE;
503         }
504     }
505     if (!pi->tp_on) {
506         pi->poc.ty0 = pi->ty0;
507         pi->poc.tx0 = pi->tx0;
508         pi->poc.ty1 = pi->ty1;
509         pi->poc.tx1 = pi->tx1;
510     }
511     for (pi->y = pi->poc.ty0; pi->y < pi->poc.ty1;
512             pi->y += (OPJ_INT32)(pi->dy - (OPJ_UINT32)(pi->y % (OPJ_INT32)pi->dy))) {
513         for (pi->x = pi->poc.tx0; pi->x < pi->poc.tx1;
514                 pi->x += (OPJ_INT32)(pi->dx - (OPJ_UINT32)(pi->x % (OPJ_INT32)pi->dx))) {
515             for (pi->compno = pi->poc.compno0; pi->compno < pi->poc.compno1; pi->compno++) {
516                 comp = &pi->comps[pi->compno];
517                 for (pi->resno = pi->poc.resno0;
518                         pi->resno < opj_uint_min(pi->poc.resno1, comp->numresolutions); pi->resno++) {
519                     OPJ_UINT32 levelno;
520                     OPJ_INT32 trx0, try0;
521                     OPJ_INT32 trx1, try1;
522                     OPJ_UINT32 rpx, rpy;
523                     OPJ_INT32 prci, prcj;
524                     res = &comp->resolutions[pi->resno];
525                     levelno = comp->numresolutions - 1 - pi->resno;
526                     /* Avoids division by zero */
527                     /* Relates to id_000004,sig_06,src_000679,op_arith8,pos_49,val_-17 */
528                     /* of  https://github.com/uclouvain/openjpeg/issues/938 */
529                     if (levelno >= 32 ||
530                             ((comp->dx << levelno) >> levelno) != comp->dx ||
531                             ((comp->dy << levelno) >> levelno) != comp->dy) {
532                         continue;
533                     }
534                     if ((comp->dx << levelno) > INT_MAX ||
535                             (comp->dy << levelno) > INT_MAX) {
536                         continue;
537                     }
538                     trx0 = opj_int_ceildiv(pi->tx0, (OPJ_INT32)(comp->dx << levelno));
539                     try0 = opj_int_ceildiv(pi->ty0, (OPJ_INT32)(comp->dy << levelno));
540                     trx1 = opj_int_ceildiv(pi->tx1, (OPJ_INT32)(comp->dx << levelno));
541                     try1 = opj_int_ceildiv(pi->ty1, (OPJ_INT32)(comp->dy << levelno));
542                     rpx = res->pdx + levelno;
543                     rpy = res->pdy + levelno;
544
545                     /* To avoid divisions by zero / undefined behaviour on shift */
546                     /* in below tests */
547                     /* Relates to id:000019,sig:08,src:001098,op:flip1,pos:49 */
548                     /* of https://github.com/uclouvain/openjpeg/issues/938 */
549                     if (rpx >= 31 || ((comp->dx << rpx) >> rpx) != comp->dx ||
550                             rpy >= 31 || ((comp->dy << rpy) >> rpy) != comp->dy) {
551                         continue;
552                     }
553
554                     /* See ISO-15441. B.12.1.4 Position-component-resolution level-layer progression */
555                     if (!((pi->y % (OPJ_INT32)(comp->dy << rpy) == 0) || ((pi->y == pi->ty0) &&
556                             ((try0 << levelno) % (1 << rpy))))) {
557                         continue;
558                     }
559                     if (!((pi->x % (OPJ_INT32)(comp->dx << rpx) == 0) || ((pi->x == pi->tx0) &&
560                             ((trx0 << levelno) % (1 << rpx))))) {
561                         continue;
562                     }
563
564                     if ((res->pw == 0) || (res->ph == 0)) {
565                         continue;
566                     }
567
568                     if ((trx0 == trx1) || (try0 == try1)) {
569                         continue;
570                     }
571
572                     prci = opj_int_floordivpow2(opj_int_ceildiv(pi->x,
573                                                 (OPJ_INT32)(comp->dx << levelno)), (OPJ_INT32)res->pdx)
574                            - opj_int_floordivpow2(trx0, (OPJ_INT32)res->pdx);
575                     prcj = opj_int_floordivpow2(opj_int_ceildiv(pi->y,
576                                                 (OPJ_INT32)(comp->dy << levelno)), (OPJ_INT32)res->pdy)
577                            - opj_int_floordivpow2(try0, (OPJ_INT32)res->pdy);
578                     pi->precno = (OPJ_UINT32)(prci + prcj * (OPJ_INT32)res->pw);
579                     for (pi->layno = pi->poc.layno0; pi->layno < pi->poc.layno1; pi->layno++) {
580                         index = pi->layno * pi->step_l + pi->resno * pi->step_r + pi->compno *
581                                 pi->step_c + pi->precno * pi->step_p;
582                         if (index >= pi->include_size) {
583                             opj_pi_emit_error(pi, "Invalid access to pi->include");
584                             return OPJ_FALSE;
585                         }
586                         if (!pi->include[index]) {
587                             pi->include[index] = 1;
588                             return OPJ_TRUE;
589                         }
590 LABEL_SKIP:
591                         ;
592                     }
593                 }
594             }
595         }
596     }
597
598     return OPJ_FALSE;
599 }
600
601 static OPJ_BOOL opj_pi_next_cprl(opj_pi_iterator_t * pi)
602 {
603     opj_pi_comp_t *comp = NULL;
604     opj_pi_resolution_t *res = NULL;
605     OPJ_UINT32 index = 0;
606
607     if (!pi->first) {
608         comp = &pi->comps[pi->compno];
609         goto LABEL_SKIP;
610     } else {
611         pi->first = 0;
612     }
613
614     for (pi->compno = pi->poc.compno0; pi->compno < pi->poc.compno1; pi->compno++) {
615         OPJ_UINT32 resno;
616         comp = &pi->comps[pi->compno];
617         pi->dx = 0;
618         pi->dy = 0;
619         for (resno = 0; resno < comp->numresolutions; resno++) {
620             OPJ_UINT32 dx, dy;
621             res = &comp->resolutions[resno];
622             if (res->pdx + comp->numresolutions - 1 - resno < 32 &&
623                     comp->dx <= UINT_MAX / (1u << (res->pdx + comp->numresolutions - 1 - resno))) {
624                 dx = comp->dx * (1u << (res->pdx + comp->numresolutions - 1 - resno));
625                 pi->dx = !pi->dx ? dx : opj_uint_min(pi->dx, dx);
626             }
627             if (res->pdy + comp->numresolutions - 1 - resno < 32 &&
628                     comp->dy <= UINT_MAX / (1u << (res->pdy + comp->numresolutions - 1 - resno))) {
629                 dy = comp->dy * (1u << (res->pdy + comp->numresolutions - 1 - resno));
630                 pi->dy = !pi->dy ? dy : opj_uint_min(pi->dy, dy);
631             }
632         }
633         if (pi->dx == 0 || pi->dy == 0) {
634             return OPJ_FALSE;
635         }
636         if (!pi->tp_on) {
637             pi->poc.ty0 = pi->ty0;
638             pi->poc.tx0 = pi->tx0;
639             pi->poc.ty1 = pi->ty1;
640             pi->poc.tx1 = pi->tx1;
641         }
642         for (pi->y = pi->poc.ty0; pi->y < pi->poc.ty1;
643                 pi->y += (OPJ_INT32)(pi->dy - (OPJ_UINT32)(pi->y % (OPJ_INT32)pi->dy))) {
644             for (pi->x = pi->poc.tx0; pi->x < pi->poc.tx1;
645                     pi->x += (OPJ_INT32)(pi->dx - (OPJ_UINT32)(pi->x % (OPJ_INT32)pi->dx))) {
646                 for (pi->resno = pi->poc.resno0;
647                         pi->resno < opj_uint_min(pi->poc.resno1, comp->numresolutions); pi->resno++) {
648                     OPJ_UINT32 levelno;
649                     OPJ_INT32 trx0, try0;
650                     OPJ_INT32 trx1, try1;
651                     OPJ_UINT32 rpx, rpy;
652                     OPJ_INT32 prci, prcj;
653                     res = &comp->resolutions[pi->resno];
654                     levelno = comp->numresolutions - 1 - pi->resno;
655                     /* Avoids division by zero on id_000004,sig_06,src_000679,op_arith8,pos_49,val_-17 */
656                     /* of  https://github.com/uclouvain/openjpeg/issues/938 */
657                     if (levelno >= 32 ||
658                             ((comp->dx << levelno) >> levelno) != comp->dx ||
659                             ((comp->dy << levelno) >> levelno) != comp->dy) {
660                         continue;
661                     }
662                     if ((comp->dx << levelno) > INT_MAX ||
663                             (comp->dy << levelno) > INT_MAX) {
664                         continue;
665                     }
666                     trx0 = opj_int_ceildiv(pi->tx0, (OPJ_INT32)(comp->dx << levelno));
667                     try0 = opj_int_ceildiv(pi->ty0, (OPJ_INT32)(comp->dy << levelno));
668                     trx1 = opj_int_ceildiv(pi->tx1, (OPJ_INT32)(comp->dx << levelno));
669                     try1 = opj_int_ceildiv(pi->ty1, (OPJ_INT32)(comp->dy << levelno));
670                     rpx = res->pdx + levelno;
671                     rpy = res->pdy + levelno;
672
673                     /* To avoid divisions by zero / undefined behaviour on shift */
674                     /* in below tests */
675                     /* Fixes reading id:000019,sig:08,src:001098,op:flip1,pos:49 */
676                     /* of https://github.com/uclouvain/openjpeg/issues/938 */
677                     if (rpx >= 31 || ((comp->dx << rpx) >> rpx) != comp->dx ||
678                             rpy >= 31 || ((comp->dy << rpy) >> rpy) != comp->dy) {
679                         continue;
680                     }
681
682                     /* See ISO-15441. B.12.1.5 Component-position-resolution level-layer progression */
683                     if (!((pi->y % (OPJ_INT32)(comp->dy << rpy) == 0) || ((pi->y == pi->ty0) &&
684                             ((try0 << levelno) % (1 << rpy))))) {
685                         continue;
686                     }
687                     if (!((pi->x % (OPJ_INT32)(comp->dx << rpx) == 0) || ((pi->x == pi->tx0) &&
688                             ((trx0 << levelno) % (1 << rpx))))) {
689                         continue;
690                     }
691
692                     if ((res->pw == 0) || (res->ph == 0)) {
693                         continue;
694                     }
695
696                     if ((trx0 == trx1) || (try0 == try1)) {
697                         continue;
698                     }
699
700                     prci = opj_int_floordivpow2(opj_int_ceildiv(pi->x,
701                                                 (OPJ_INT32)(comp->dx << levelno)), (OPJ_INT32)res->pdx)
702                            - opj_int_floordivpow2(trx0, (OPJ_INT32)res->pdx);
703                     prcj = opj_int_floordivpow2(opj_int_ceildiv(pi->y,
704                                                 (OPJ_INT32)(comp->dy << levelno)), (OPJ_INT32)res->pdy)
705                            - opj_int_floordivpow2(try0, (OPJ_INT32)res->pdy);
706                     pi->precno = (OPJ_UINT32)(prci + prcj * (OPJ_INT32)res->pw);
707                     for (pi->layno = pi->poc.layno0; pi->layno < pi->poc.layno1; pi->layno++) {
708                         index = pi->layno * pi->step_l + pi->resno * pi->step_r + pi->compno *
709                                 pi->step_c + pi->precno * pi->step_p;
710                         if (index >= pi->include_size) {
711                             opj_pi_emit_error(pi, "Invalid access to pi->include");
712                             return OPJ_FALSE;
713                         }
714                         if (!pi->include[index]) {
715                             pi->include[index] = 1;
716                             return OPJ_TRUE;
717                         }
718 LABEL_SKIP:
719                         ;
720                     }
721                 }
722             }
723         }
724     }
725
726     return OPJ_FALSE;
727 }
728
729 static void opj_get_encoding_parameters(const opj_image_t *p_image,
730                                         const opj_cp_t *p_cp,
731                                         OPJ_UINT32 p_tileno,
732                                         OPJ_INT32 * p_tx0,
733                                         OPJ_INT32  * p_tx1,
734                                         OPJ_INT32  * p_ty0,
735                                         OPJ_INT32  * p_ty1,
736                                         OPJ_UINT32 * p_dx_min,
737                                         OPJ_UINT32 * p_dy_min,
738                                         OPJ_UINT32 * p_max_prec,
739                                         OPJ_UINT32 * p_max_res)
740 {
741     /* loop */
742     OPJ_UINT32  compno, resno;
743     /* pointers */
744     const opj_tcp_t *l_tcp = 00;
745     const opj_tccp_t * l_tccp = 00;
746     const opj_image_comp_t * l_img_comp = 00;
747
748     /* position in x and y of tile */
749     OPJ_UINT32 p, q;
750
751     /* preconditions */
752     assert(p_cp != 00);
753     assert(p_image != 00);
754     assert(p_tileno < p_cp->tw * p_cp->th);
755
756     /* initializations */
757     l_tcp = &p_cp->tcps [p_tileno];
758     l_img_comp = p_image->comps;
759     l_tccp = l_tcp->tccps;
760
761     /* here calculation of tx0, tx1, ty0, ty1, maxprec, dx and dy */
762     p = p_tileno % p_cp->tw;
763     q = p_tileno / p_cp->tw;
764
765     /* find extent of tile */
766     *p_tx0 = opj_int_max((OPJ_INT32)(p_cp->tx0 + p * p_cp->tdx),
767                          (OPJ_INT32)p_image->x0);
768     *p_tx1 = opj_int_min((OPJ_INT32)(p_cp->tx0 + (p + 1) * p_cp->tdx),
769                          (OPJ_INT32)p_image->x1);
770     *p_ty0 = opj_int_max((OPJ_INT32)(p_cp->ty0 + q * p_cp->tdy),
771                          (OPJ_INT32)p_image->y0);
772     *p_ty1 = opj_int_min((OPJ_INT32)(p_cp->ty0 + (q + 1) * p_cp->tdy),
773                          (OPJ_INT32)p_image->y1);
774
775     /* max precision is 0 (can only grow) */
776     *p_max_prec = 0;
777     *p_max_res = 0;
778
779     /* take the largest value for dx_min and dy_min */
780     *p_dx_min = 0x7fffffff;
781     *p_dy_min  = 0x7fffffff;
782
783     for (compno = 0; compno < p_image->numcomps; ++compno) {
784         /* arithmetic variables to calculate */
785         OPJ_UINT32 l_level_no;
786         OPJ_INT32 l_rx0, l_ry0, l_rx1, l_ry1;
787         OPJ_INT32 l_px0, l_py0, l_px1, py1;
788         OPJ_UINT32 l_pdx, l_pdy;
789         OPJ_UINT32 l_pw, l_ph;
790         OPJ_UINT32 l_product;
791         OPJ_INT32 l_tcx0, l_tcy0, l_tcx1, l_tcy1;
792
793         l_tcx0 = opj_int_ceildiv(*p_tx0, (OPJ_INT32)l_img_comp->dx);
794         l_tcy0 = opj_int_ceildiv(*p_ty0, (OPJ_INT32)l_img_comp->dy);
795         l_tcx1 = opj_int_ceildiv(*p_tx1, (OPJ_INT32)l_img_comp->dx);
796         l_tcy1 = opj_int_ceildiv(*p_ty1, (OPJ_INT32)l_img_comp->dy);
797
798         if (l_tccp->numresolutions > *p_max_res) {
799             *p_max_res = l_tccp->numresolutions;
800         }
801
802         /* use custom size for precincts */
803         for (resno = 0; resno < l_tccp->numresolutions; ++resno) {
804             OPJ_UINT32 l_dx, l_dy;
805
806             /* precinct width and height */
807             l_pdx = l_tccp->prcw[resno];
808             l_pdy = l_tccp->prch[resno];
809
810             l_dx = l_img_comp->dx * (1u << (l_pdx + l_tccp->numresolutions - 1 - resno));
811             l_dy = l_img_comp->dy * (1u << (l_pdy + l_tccp->numresolutions - 1 - resno));
812
813             /* take the minimum size for dx for each comp and resolution */
814             *p_dx_min = opj_uint_min(*p_dx_min, l_dx);
815             *p_dy_min = opj_uint_min(*p_dy_min, l_dy);
816
817             /* various calculations of extents */
818             l_level_no = l_tccp->numresolutions - 1 - resno;
819
820             l_rx0 = opj_int_ceildivpow2(l_tcx0, (OPJ_INT32)l_level_no);
821             l_ry0 = opj_int_ceildivpow2(l_tcy0, (OPJ_INT32)l_level_no);
822             l_rx1 = opj_int_ceildivpow2(l_tcx1, (OPJ_INT32)l_level_no);
823             l_ry1 = opj_int_ceildivpow2(l_tcy1, (OPJ_INT32)l_level_no);
824
825             l_px0 = opj_int_floordivpow2(l_rx0, (OPJ_INT32)l_pdx) << l_pdx;
826             l_py0 = opj_int_floordivpow2(l_ry0, (OPJ_INT32)l_pdy) << l_pdy;
827             l_px1 = opj_int_ceildivpow2(l_rx1, (OPJ_INT32)l_pdx) << l_pdx;
828
829             py1 = opj_int_ceildivpow2(l_ry1, (OPJ_INT32)l_pdy) << l_pdy;
830
831             l_pw = (l_rx0 == l_rx1) ? 0 : (OPJ_UINT32)((l_px1 - l_px0) >> l_pdx);
832             l_ph = (l_ry0 == l_ry1) ? 0 : (OPJ_UINT32)((py1 - l_py0) >> l_pdy);
833
834             l_product = l_pw * l_ph;
835
836             /* update precision */
837             if (l_product > *p_max_prec) {
838                 *p_max_prec = l_product;
839             }
840         }
841         ++l_img_comp;
842         ++l_tccp;
843     }
844 }
845
846
847 static void opj_get_all_encoding_parameters(const opj_image_t *p_image,
848         const opj_cp_t *p_cp,
849         OPJ_UINT32 tileno,
850         OPJ_INT32 * p_tx0,
851         OPJ_INT32 * p_tx1,
852         OPJ_INT32 * p_ty0,
853         OPJ_INT32 * p_ty1,
854         OPJ_UINT32 * p_dx_min,
855         OPJ_UINT32 * p_dy_min,
856         OPJ_UINT32 * p_max_prec,
857         OPJ_UINT32 * p_max_res,
858         OPJ_UINT32 ** p_resolutions)
859 {
860     /* loop*/
861     OPJ_UINT32 compno, resno;
862
863     /* pointers*/
864     const opj_tcp_t *tcp = 00;
865     const opj_tccp_t * l_tccp = 00;
866     const opj_image_comp_t * l_img_comp = 00;
867
868     /* to store l_dx, l_dy, w and h for each resolution and component.*/
869     OPJ_UINT32 * lResolutionPtr;
870
871     /* position in x and y of tile*/
872     OPJ_UINT32 p, q;
873
874     /* non-corrected (in regard to image offset) tile offset */
875     OPJ_UINT32 l_tx0, l_ty0;
876
877     /* preconditions in debug*/
878     assert(p_cp != 00);
879     assert(p_image != 00);
880     assert(tileno < p_cp->tw * p_cp->th);
881
882     /* initializations*/
883     tcp = &p_cp->tcps [tileno];
884     l_tccp = tcp->tccps;
885     l_img_comp = p_image->comps;
886
887     /* position in x and y of tile*/
888     p = tileno % p_cp->tw;
889     q = tileno / p_cp->tw;
890
891     /* here calculation of tx0, tx1, ty0, ty1, maxprec, l_dx and l_dy */
892     l_tx0 = p_cp->tx0 + p *
893             p_cp->tdx; /* can't be greater than p_image->x1 so won't overflow */
894     *p_tx0 = (OPJ_INT32)opj_uint_max(l_tx0, p_image->x0);
895     *p_tx1 = (OPJ_INT32)opj_uint_min(opj_uint_adds(l_tx0, p_cp->tdx), p_image->x1);
896     l_ty0 = p_cp->ty0 + q *
897             p_cp->tdy; /* can't be greater than p_image->y1 so won't overflow */
898     *p_ty0 = (OPJ_INT32)opj_uint_max(l_ty0, p_image->y0);
899     *p_ty1 = (OPJ_INT32)opj_uint_min(opj_uint_adds(l_ty0, p_cp->tdy), p_image->y1);
900
901     /* max precision and resolution is 0 (can only grow)*/
902     *p_max_prec = 0;
903     *p_max_res = 0;
904
905     /* take the largest value for dx_min and dy_min*/
906     *p_dx_min = 0x7fffffff;
907     *p_dy_min = 0x7fffffff;
908
909     for (compno = 0; compno < p_image->numcomps; ++compno) {
910         /* aritmetic variables to calculate*/
911         OPJ_UINT32 l_level_no;
912         OPJ_INT32 l_rx0, l_ry0, l_rx1, l_ry1;
913         OPJ_INT32 l_px0, l_py0, l_px1, py1;
914         OPJ_UINT32 l_product;
915         OPJ_INT32 l_tcx0, l_tcy0, l_tcx1, l_tcy1;
916         OPJ_UINT32 l_pdx, l_pdy, l_pw, l_ph;
917
918         lResolutionPtr = p_resolutions[compno];
919
920         l_tcx0 = opj_int_ceildiv(*p_tx0, (OPJ_INT32)l_img_comp->dx);
921         l_tcy0 = opj_int_ceildiv(*p_ty0, (OPJ_INT32)l_img_comp->dy);
922         l_tcx1 = opj_int_ceildiv(*p_tx1, (OPJ_INT32)l_img_comp->dx);
923         l_tcy1 = opj_int_ceildiv(*p_ty1, (OPJ_INT32)l_img_comp->dy);
924
925         if (l_tccp->numresolutions > *p_max_res) {
926             *p_max_res = l_tccp->numresolutions;
927         }
928
929         /* use custom size for precincts*/
930         l_level_no = l_tccp->numresolutions;
931         for (resno = 0; resno < l_tccp->numresolutions; ++resno) {
932             OPJ_UINT32 l_dx, l_dy;
933
934             --l_level_no;
935
936             /* precinct width and height*/
937             l_pdx = l_tccp->prcw[resno];
938             l_pdy = l_tccp->prch[resno];
939             *lResolutionPtr++ = l_pdx;
940             *lResolutionPtr++ = l_pdy;
941             if (l_pdx + l_level_no < 32 &&
942                     l_img_comp->dx <= UINT_MAX / (1u << (l_pdx + l_level_no))) {
943                 l_dx = l_img_comp->dx * (1u << (l_pdx + l_level_no));
944                 /* take the minimum size for l_dx for each comp and resolution*/
945                 *p_dx_min = (OPJ_UINT32)opj_int_min((OPJ_INT32) * p_dx_min, (OPJ_INT32)l_dx);
946             }
947             if (l_pdy + l_level_no < 32 &&
948                     l_img_comp->dy <= UINT_MAX / (1u << (l_pdy + l_level_no))) {
949                 l_dy = l_img_comp->dy * (1u << (l_pdy + l_level_no));
950                 *p_dy_min = (OPJ_UINT32)opj_int_min((OPJ_INT32) * p_dy_min, (OPJ_INT32)l_dy);
951             }
952
953             /* various calculations of extents*/
954             l_rx0 = opj_int_ceildivpow2(l_tcx0, (OPJ_INT32)l_level_no);
955             l_ry0 = opj_int_ceildivpow2(l_tcy0, (OPJ_INT32)l_level_no);
956             l_rx1 = opj_int_ceildivpow2(l_tcx1, (OPJ_INT32)l_level_no);
957             l_ry1 = opj_int_ceildivpow2(l_tcy1, (OPJ_INT32)l_level_no);
958             l_px0 = opj_int_floordivpow2(l_rx0, (OPJ_INT32)l_pdx) << l_pdx;
959             l_py0 = opj_int_floordivpow2(l_ry0, (OPJ_INT32)l_pdy) << l_pdy;
960             l_px1 = opj_int_ceildivpow2(l_rx1, (OPJ_INT32)l_pdx) << l_pdx;
961             py1 = opj_int_ceildivpow2(l_ry1, (OPJ_INT32)l_pdy) << l_pdy;
962             l_pw = (l_rx0 == l_rx1) ? 0 : (OPJ_UINT32)((l_px1 - l_px0) >> l_pdx);
963             l_ph = (l_ry0 == l_ry1) ? 0 : (OPJ_UINT32)((py1 - l_py0) >> l_pdy);
964             *lResolutionPtr++ = l_pw;
965             *lResolutionPtr++ = l_ph;
966             l_product = l_pw * l_ph;
967
968             /* update precision*/
969             if (l_product > *p_max_prec) {
970                 *p_max_prec = l_product;
971             }
972
973         }
974         ++l_tccp;
975         ++l_img_comp;
976     }
977 }
978
979 static opj_pi_iterator_t * opj_pi_create(const opj_image_t *image,
980         const opj_cp_t *cp,
981         OPJ_UINT32 tileno)
982 {
983     /* loop*/
984     OPJ_UINT32 pino, compno;
985     /* number of poc in the p_pi*/
986     OPJ_UINT32 l_poc_bound;
987
988     /* pointers to tile coding parameters and components.*/
989     opj_pi_iterator_t *l_pi = 00;
990     opj_tcp_t *tcp = 00;
991     const opj_tccp_t *tccp = 00;
992
993     /* current packet iterator being allocated*/
994     opj_pi_iterator_t *l_current_pi = 00;
995
996     /* preconditions in debug*/
997     assert(cp != 00);
998     assert(image != 00);
999     assert(tileno < cp->tw * cp->th);
1000
1001     /* initializations*/
1002     tcp = &cp->tcps[tileno];
1003     l_poc_bound = tcp->numpocs + 1;
1004
1005     /* memory allocations*/
1006     l_pi = (opj_pi_iterator_t*) opj_calloc((l_poc_bound),
1007                                            sizeof(opj_pi_iterator_t));
1008     if (!l_pi) {
1009         return NULL;
1010     }
1011
1012     l_current_pi = l_pi;
1013     for (pino = 0; pino < l_poc_bound ; ++pino) {
1014
1015         l_current_pi->comps = (opj_pi_comp_t*) opj_calloc(image->numcomps,
1016                               sizeof(opj_pi_comp_t));
1017         if (! l_current_pi->comps) {
1018             opj_pi_destroy(l_pi, l_poc_bound);
1019             return NULL;
1020         }
1021
1022         l_current_pi->numcomps = image->numcomps;
1023
1024         for (compno = 0; compno < image->numcomps; ++compno) {
1025             opj_pi_comp_t *comp = &l_current_pi->comps[compno];
1026
1027             tccp = &tcp->tccps[compno];
1028
1029             comp->resolutions = (opj_pi_resolution_t*) opj_calloc(tccp->numresolutions,
1030                                 sizeof(opj_pi_resolution_t));
1031             if (!comp->resolutions) {
1032                 opj_pi_destroy(l_pi, l_poc_bound);
1033                 return 00;
1034             }
1035
1036             comp->numresolutions = tccp->numresolutions;
1037         }
1038         ++l_current_pi;
1039     }
1040     return l_pi;
1041 }
1042
1043 static void opj_pi_update_encode_poc_and_final(opj_cp_t *p_cp,
1044         OPJ_UINT32 p_tileno,
1045         OPJ_INT32 p_tx0,
1046         OPJ_INT32 p_tx1,
1047         OPJ_INT32 p_ty0,
1048         OPJ_INT32 p_ty1,
1049         OPJ_UINT32 p_max_prec,
1050         OPJ_UINT32 p_max_res,
1051         OPJ_UINT32 p_dx_min,
1052         OPJ_UINT32 p_dy_min)
1053 {
1054     /* loop*/
1055     OPJ_UINT32 pino;
1056     /* tile coding parameter*/
1057     opj_tcp_t *l_tcp = 00;
1058     /* current poc being updated*/
1059     opj_poc_t * l_current_poc = 00;
1060
1061     /* number of pocs*/
1062     OPJ_UINT32 l_poc_bound;
1063
1064     OPJ_ARG_NOT_USED(p_max_res);
1065
1066     /* preconditions in debug*/
1067     assert(p_cp != 00);
1068     assert(p_tileno < p_cp->tw * p_cp->th);
1069
1070     /* initializations*/
1071     l_tcp = &p_cp->tcps [p_tileno];
1072     /* number of iterations in the loop */
1073     l_poc_bound = l_tcp->numpocs + 1;
1074
1075     /* start at first element, and to make sure the compiler will not make a calculation each time in the loop
1076        store a pointer to the current element to modify rather than l_tcp->pocs[i]*/
1077     l_current_poc = l_tcp->pocs;
1078
1079     l_current_poc->compS = l_current_poc->compno0;
1080     l_current_poc->compE = l_current_poc->compno1;
1081     l_current_poc->resS = l_current_poc->resno0;
1082     l_current_poc->resE = l_current_poc->resno1;
1083     l_current_poc->layE = l_current_poc->layno1;
1084
1085     /* special treatment for the first element*/
1086     l_current_poc->layS = 0;
1087     l_current_poc->prg  = l_current_poc->prg1;
1088     l_current_poc->prcS = 0;
1089
1090     l_current_poc->prcE = p_max_prec;
1091     l_current_poc->txS = (OPJ_UINT32)p_tx0;
1092     l_current_poc->txE = (OPJ_UINT32)p_tx1;
1093     l_current_poc->tyS = (OPJ_UINT32)p_ty0;
1094     l_current_poc->tyE = (OPJ_UINT32)p_ty1;
1095     l_current_poc->dx = p_dx_min;
1096     l_current_poc->dy = p_dy_min;
1097
1098     ++ l_current_poc;
1099     for (pino = 1; pino < l_poc_bound ; ++pino) {
1100         l_current_poc->compS = l_current_poc->compno0;
1101         l_current_poc->compE = l_current_poc->compno1;
1102         l_current_poc->resS = l_current_poc->resno0;
1103         l_current_poc->resE = l_current_poc->resno1;
1104         l_current_poc->layE = l_current_poc->layno1;
1105         l_current_poc->prg  = l_current_poc->prg1;
1106         l_current_poc->prcS = 0;
1107         /* special treatment here different from the first element*/
1108         l_current_poc->layS = (l_current_poc->layE > (l_current_poc - 1)->layE) ?
1109                               l_current_poc->layE : 0;
1110
1111         l_current_poc->prcE = p_max_prec;
1112         l_current_poc->txS = (OPJ_UINT32)p_tx0;
1113         l_current_poc->txE = (OPJ_UINT32)p_tx1;
1114         l_current_poc->tyS = (OPJ_UINT32)p_ty0;
1115         l_current_poc->tyE = (OPJ_UINT32)p_ty1;
1116         l_current_poc->dx = p_dx_min;
1117         l_current_poc->dy = p_dy_min;
1118         ++ l_current_poc;
1119     }
1120 }
1121
1122 static void opj_pi_update_encode_not_poc(opj_cp_t *p_cp,
1123         OPJ_UINT32 p_num_comps,
1124         OPJ_UINT32 p_tileno,
1125         OPJ_INT32 p_tx0,
1126         OPJ_INT32 p_tx1,
1127         OPJ_INT32 p_ty0,
1128         OPJ_INT32 p_ty1,
1129         OPJ_UINT32 p_max_prec,
1130         OPJ_UINT32 p_max_res,
1131         OPJ_UINT32 p_dx_min,
1132         OPJ_UINT32 p_dy_min)
1133 {
1134     /* loop*/
1135     OPJ_UINT32 pino;
1136     /* tile coding parameter*/
1137     opj_tcp_t *l_tcp = 00;
1138     /* current poc being updated*/
1139     opj_poc_t * l_current_poc = 00;
1140     /* number of pocs*/
1141     OPJ_UINT32 l_poc_bound;
1142
1143     /* preconditions in debug*/
1144     assert(p_cp != 00);
1145     assert(p_tileno < p_cp->tw * p_cp->th);
1146
1147     /* initializations*/
1148     l_tcp = &p_cp->tcps [p_tileno];
1149
1150     /* number of iterations in the loop */
1151     l_poc_bound = l_tcp->numpocs + 1;
1152
1153     /* start at first element, and to make sure the compiler will not make a calculation each time in the loop
1154        store a pointer to the current element to modify rather than l_tcp->pocs[i]*/
1155     l_current_poc = l_tcp->pocs;
1156
1157     for (pino = 0; pino < l_poc_bound ; ++pino) {
1158         l_current_poc->compS = 0;
1159         l_current_poc->compE = p_num_comps;/*p_image->numcomps;*/
1160         l_current_poc->resS = 0;
1161         l_current_poc->resE = p_max_res;
1162         l_current_poc->layS = 0;
1163         l_current_poc->layE = l_tcp->numlayers;
1164         l_current_poc->prg  = l_tcp->prg;
1165         l_current_poc->prcS = 0;
1166         l_current_poc->prcE = p_max_prec;
1167         l_current_poc->txS = (OPJ_UINT32)p_tx0;
1168         l_current_poc->txE = (OPJ_UINT32)p_tx1;
1169         l_current_poc->tyS = (OPJ_UINT32)p_ty0;
1170         l_current_poc->tyE = (OPJ_UINT32)p_ty1;
1171         l_current_poc->dx = p_dx_min;
1172         l_current_poc->dy = p_dy_min;
1173         ++ l_current_poc;
1174     }
1175 }
1176
1177 static void opj_pi_update_decode_poc(opj_pi_iterator_t * p_pi,
1178                                      opj_tcp_t * p_tcp,
1179                                      OPJ_UINT32 p_max_precision,
1180                                      OPJ_UINT32 p_max_res)
1181 {
1182     /* loop*/
1183     OPJ_UINT32 pino;
1184
1185     /* encoding prameters to set*/
1186     OPJ_UINT32 l_bound;
1187
1188     opj_pi_iterator_t * l_current_pi = 00;
1189     opj_poc_t* l_current_poc = 0;
1190
1191     OPJ_ARG_NOT_USED(p_max_res);
1192
1193     /* preconditions in debug*/
1194     assert(p_pi != 00);
1195     assert(p_tcp != 00);
1196
1197     /* initializations*/
1198     l_bound = p_tcp->numpocs + 1;
1199     l_current_pi = p_pi;
1200     l_current_poc = p_tcp->pocs;
1201
1202     for (pino = 0; pino < l_bound; ++pino) {
1203         l_current_pi->poc.prg = l_current_poc->prg; /* Progression Order #0 */
1204         l_current_pi->first = 1;
1205
1206         l_current_pi->poc.resno0 =
1207             l_current_poc->resno0; /* Resolution Level Index #0 (Start) */
1208         l_current_pi->poc.compno0 =
1209             l_current_poc->compno0; /* Component Index #0 (Start) */
1210         l_current_pi->poc.layno0 = 0;
1211         l_current_pi->poc.precno0 = 0;
1212         l_current_pi->poc.resno1 =
1213             l_current_poc->resno1; /* Resolution Level Index #0 (End) */
1214         l_current_pi->poc.compno1 =
1215             l_current_poc->compno1; /* Component Index #0 (End) */
1216         l_current_pi->poc.layno1 = l_current_poc->layno1; /* Layer Index #0 (End) */
1217         l_current_pi->poc.precno1 = p_max_precision;
1218         ++l_current_pi;
1219         ++l_current_poc;
1220     }
1221 }
1222
1223 static void opj_pi_update_decode_not_poc(opj_pi_iterator_t * p_pi,
1224         opj_tcp_t * p_tcp,
1225         OPJ_UINT32 p_max_precision,
1226         OPJ_UINT32 p_max_res)
1227 {
1228     /* loop*/
1229     OPJ_UINT32 pino;
1230
1231     /* encoding prameters to set*/
1232     OPJ_UINT32 l_bound;
1233
1234     opj_pi_iterator_t * l_current_pi = 00;
1235     /* preconditions in debug*/
1236     assert(p_tcp != 00);
1237     assert(p_pi != 00);
1238
1239     /* initializations*/
1240     l_bound = p_tcp->numpocs + 1;
1241     l_current_pi = p_pi;
1242
1243     for (pino = 0; pino < l_bound; ++pino) {
1244         l_current_pi->poc.prg = p_tcp->prg;
1245         l_current_pi->first = 1;
1246         l_current_pi->poc.resno0 = 0;
1247         l_current_pi->poc.compno0 = 0;
1248         l_current_pi->poc.layno0 = 0;
1249         l_current_pi->poc.precno0 = 0;
1250         l_current_pi->poc.resno1 = p_max_res;
1251         l_current_pi->poc.compno1 = l_current_pi->numcomps;
1252         l_current_pi->poc.layno1 = p_tcp->numlayers;
1253         l_current_pi->poc.precno1 = p_max_precision;
1254         ++l_current_pi;
1255     }
1256 }
1257
1258
1259
1260 static OPJ_BOOL opj_pi_check_next_level(OPJ_INT32 pos,
1261                                         opj_cp_t *cp,
1262                                         OPJ_UINT32 tileno,
1263                                         OPJ_UINT32 pino,
1264                                         const OPJ_CHAR *prog)
1265 {
1266     OPJ_INT32 i;
1267     opj_tcp_t *tcps = &cp->tcps[tileno];
1268     opj_poc_t *tcp = &tcps->pocs[pino];
1269
1270     if (pos >= 0) {
1271         for (i = pos; pos >= 0; i--) {
1272             switch (prog[i]) {
1273             case 'R':
1274                 if (tcp->res_t == tcp->resE) {
1275                     if (opj_pi_check_next_level(pos - 1, cp, tileno, pino, prog)) {
1276                         return OPJ_TRUE;
1277                     } else {
1278                         return OPJ_FALSE;
1279                     }
1280                 } else {
1281                     return OPJ_TRUE;
1282                 }
1283                 break;
1284             case 'C':
1285                 if (tcp->comp_t == tcp->compE) {
1286                     if (opj_pi_check_next_level(pos - 1, cp, tileno, pino, prog)) {
1287                         return OPJ_TRUE;
1288                     } else {
1289                         return OPJ_FALSE;
1290                     }
1291                 } else {
1292                     return OPJ_TRUE;
1293                 }
1294                 break;
1295             case 'L':
1296                 if (tcp->lay_t == tcp->layE) {
1297                     if (opj_pi_check_next_level(pos - 1, cp, tileno, pino, prog)) {
1298                         return OPJ_TRUE;
1299                     } else {
1300                         return OPJ_FALSE;
1301                     }
1302                 } else {
1303                     return OPJ_TRUE;
1304                 }
1305                 break;
1306             case 'P':
1307                 switch (tcp->prg) {
1308                 case OPJ_LRCP: /* fall through */
1309                 case OPJ_RLCP:
1310                     if (tcp->prc_t == tcp->prcE) {
1311                         if (opj_pi_check_next_level(i - 1, cp, tileno, pino, prog)) {
1312                             return OPJ_TRUE;
1313                         } else {
1314                             return OPJ_FALSE;
1315                         }
1316                     } else {
1317                         return OPJ_TRUE;
1318                     }
1319                     break;
1320                 default:
1321                     if (tcp->tx0_t == tcp->txE) {
1322                         /*TY*/
1323                         if (tcp->ty0_t == tcp->tyE) {
1324                             if (opj_pi_check_next_level(i - 1, cp, tileno, pino, prog)) {
1325                                 return OPJ_TRUE;
1326                             } else {
1327                                 return OPJ_FALSE;
1328                             }
1329                         } else {
1330                             return OPJ_TRUE;
1331                         }/*TY*/
1332                     } else {
1333                         return OPJ_TRUE;
1334                     }
1335                     break;
1336                 }/*end case P*/
1337             }/*end switch*/
1338         }/*end for*/
1339     }/*end if*/
1340     return OPJ_FALSE;
1341 }
1342
1343
1344 /*
1345 ==========================================================
1346    Packet iterator interface
1347 ==========================================================
1348 */
1349 opj_pi_iterator_t *opj_pi_create_decode(opj_image_t *p_image,
1350                                         opj_cp_t *p_cp,
1351                                         OPJ_UINT32 p_tile_no)
1352 {
1353     /* loop */
1354     OPJ_UINT32 pino;
1355     OPJ_UINT32 compno, resno;
1356
1357     /* to store w, h, dx and dy fro all components and resolutions */
1358     OPJ_UINT32 * l_tmp_data;
1359     OPJ_UINT32 ** l_tmp_ptr;
1360
1361     /* encoding prameters to set */
1362     OPJ_UINT32 l_max_res;
1363     OPJ_UINT32 l_max_prec;
1364     OPJ_INT32 l_tx0, l_tx1, l_ty0, l_ty1;
1365     OPJ_UINT32 l_dx_min, l_dy_min;
1366     OPJ_UINT32 l_bound;
1367     OPJ_UINT32 l_step_p, l_step_c, l_step_r, l_step_l ;
1368     OPJ_UINT32 l_data_stride;
1369
1370     /* pointers */
1371     opj_pi_iterator_t *l_pi = 00;
1372     opj_tcp_t *l_tcp = 00;
1373     const opj_tccp_t *l_tccp = 00;
1374     opj_pi_comp_t *l_current_comp = 00;
1375     opj_image_comp_t * l_img_comp = 00;
1376     opj_pi_iterator_t * l_current_pi = 00;
1377     OPJ_UINT32 * l_encoding_value_ptr = 00;
1378
1379     /* preconditions in debug */
1380     assert(p_cp != 00);
1381     assert(p_image != 00);
1382     assert(p_tile_no < p_cp->tw * p_cp->th);
1383
1384     /* initializations */
1385     l_tcp = &p_cp->tcps[p_tile_no];
1386     l_bound = l_tcp->numpocs + 1;
1387
1388     l_data_stride = 4 * OPJ_J2K_MAXRLVLS;
1389     l_tmp_data = (OPJ_UINT32*)opj_malloc(
1390                      l_data_stride * p_image->numcomps * sizeof(OPJ_UINT32));
1391     if
1392     (! l_tmp_data) {
1393         return 00;
1394     }
1395     l_tmp_ptr = (OPJ_UINT32**)opj_malloc(
1396                     p_image->numcomps * sizeof(OPJ_UINT32 *));
1397     if
1398     (! l_tmp_ptr) {
1399         opj_free(l_tmp_data);
1400         return 00;
1401     }
1402
1403     /* memory allocation for pi */
1404     l_pi = opj_pi_create(p_image, p_cp, p_tile_no);
1405     if (!l_pi) {
1406         opj_free(l_tmp_data);
1407         opj_free(l_tmp_ptr);
1408         return 00;
1409     }
1410
1411     l_encoding_value_ptr = l_tmp_data;
1412     /* update pointer array */
1413     for
1414     (compno = 0; compno < p_image->numcomps; ++compno) {
1415         l_tmp_ptr[compno] = l_encoding_value_ptr;
1416         l_encoding_value_ptr += l_data_stride;
1417     }
1418     /* get encoding parameters */
1419     opj_get_all_encoding_parameters(p_image, p_cp, p_tile_no, &l_tx0, &l_tx1,
1420                                     &l_ty0, &l_ty1, &l_dx_min, &l_dy_min, &l_max_prec, &l_max_res, l_tmp_ptr);
1421
1422     /* step calculations */
1423     l_step_p = 1;
1424     l_step_c = l_max_prec * l_step_p;
1425     l_step_r = p_image->numcomps * l_step_c;
1426     l_step_l = l_max_res * l_step_r;
1427
1428     /* set values for first packet iterator */
1429     l_current_pi = l_pi;
1430
1431     /* memory allocation for include */
1432     /* prevent an integer overflow issue */
1433     /* 0 < l_tcp->numlayers < 65536 c.f. opj_j2k_read_cod in j2k.c */
1434     l_current_pi->include = 00;
1435     if (l_step_l <= (UINT_MAX / (l_tcp->numlayers + 1U))) {
1436         l_current_pi->include_size = (l_tcp->numlayers + 1U) * l_step_l;
1437         l_current_pi->include = (OPJ_INT16*) opj_calloc(
1438                                     l_current_pi->include_size, sizeof(OPJ_INT16));
1439     }
1440
1441     if (!l_current_pi->include) {
1442         opj_free(l_tmp_data);
1443         opj_free(l_tmp_ptr);
1444         opj_pi_destroy(l_pi, l_bound);
1445         return 00;
1446     }
1447
1448     /* special treatment for the first packet iterator */
1449     l_current_comp = l_current_pi->comps;
1450     l_img_comp = p_image->comps;
1451     l_tccp = l_tcp->tccps;
1452
1453     l_current_pi->tx0 = l_tx0;
1454     l_current_pi->ty0 = l_ty0;
1455     l_current_pi->tx1 = l_tx1;
1456     l_current_pi->ty1 = l_ty1;
1457
1458     /*l_current_pi->dx = l_img_comp->dx;*/
1459     /*l_current_pi->dy = l_img_comp->dy;*/
1460
1461     l_current_pi->step_p = l_step_p;
1462     l_current_pi->step_c = l_step_c;
1463     l_current_pi->step_r = l_step_r;
1464     l_current_pi->step_l = l_step_l;
1465
1466     /* allocation for components and number of components has already been calculated by opj_pi_create */
1467     for
1468     (compno = 0; compno < l_current_pi->numcomps; ++compno) {
1469         opj_pi_resolution_t *l_res = l_current_comp->resolutions;
1470         l_encoding_value_ptr = l_tmp_ptr[compno];
1471
1472         l_current_comp->dx = l_img_comp->dx;
1473         l_current_comp->dy = l_img_comp->dy;
1474         /* resolutions have already been initialized */
1475         for
1476         (resno = 0; resno < l_current_comp->numresolutions; resno++) {
1477             l_res->pdx = *(l_encoding_value_ptr++);
1478             l_res->pdy = *(l_encoding_value_ptr++);
1479             l_res->pw =  *(l_encoding_value_ptr++);
1480             l_res->ph =  *(l_encoding_value_ptr++);
1481             ++l_res;
1482         }
1483         ++l_current_comp;
1484         ++l_img_comp;
1485         ++l_tccp;
1486     }
1487     ++l_current_pi;
1488
1489     for (pino = 1 ; pino < l_bound ; ++pino) {
1490         l_current_comp = l_current_pi->comps;
1491         l_img_comp = p_image->comps;
1492         l_tccp = l_tcp->tccps;
1493
1494         l_current_pi->tx0 = l_tx0;
1495         l_current_pi->ty0 = l_ty0;
1496         l_current_pi->tx1 = l_tx1;
1497         l_current_pi->ty1 = l_ty1;
1498         /*l_current_pi->dx = l_dx_min;*/
1499         /*l_current_pi->dy = l_dy_min;*/
1500         l_current_pi->step_p = l_step_p;
1501         l_current_pi->step_c = l_step_c;
1502         l_current_pi->step_r = l_step_r;
1503         l_current_pi->step_l = l_step_l;
1504
1505         /* allocation for components and number of components has already been calculated by opj_pi_create */
1506         for
1507         (compno = 0; compno < l_current_pi->numcomps; ++compno) {
1508             opj_pi_resolution_t *l_res = l_current_comp->resolutions;
1509             l_encoding_value_ptr = l_tmp_ptr[compno];
1510
1511             l_current_comp->dx = l_img_comp->dx;
1512             l_current_comp->dy = l_img_comp->dy;
1513             /* resolutions have already been initialized */
1514             for
1515             (resno = 0; resno < l_current_comp->numresolutions; resno++) {
1516                 l_res->pdx = *(l_encoding_value_ptr++);
1517                 l_res->pdy = *(l_encoding_value_ptr++);
1518                 l_res->pw =  *(l_encoding_value_ptr++);
1519                 l_res->ph =  *(l_encoding_value_ptr++);
1520                 ++l_res;
1521             }
1522             ++l_current_comp;
1523             ++l_img_comp;
1524             ++l_tccp;
1525         }
1526         /* special treatment*/
1527         l_current_pi->include = (l_current_pi - 1)->include;
1528         l_current_pi->include_size = (l_current_pi - 1)->include_size;
1529         ++l_current_pi;
1530     }
1531     opj_free(l_tmp_data);
1532     l_tmp_data = 00;
1533     opj_free(l_tmp_ptr);
1534     l_tmp_ptr = 00;
1535     if
1536     (l_tcp->POC) {
1537         opj_pi_update_decode_poc(l_pi, l_tcp, l_max_prec, l_max_res);
1538     } else {
1539         opj_pi_update_decode_not_poc(l_pi, l_tcp, l_max_prec, l_max_res);
1540     }
1541     return l_pi;
1542 }
1543
1544
1545
1546 opj_pi_iterator_t *opj_pi_initialise_encode(const opj_image_t *p_image,
1547         opj_cp_t *p_cp,
1548         OPJ_UINT32 p_tile_no,
1549         J2K_T2_MODE p_t2_mode)
1550 {
1551     /* loop*/
1552     OPJ_UINT32 pino;
1553     OPJ_UINT32 compno, resno;
1554
1555     /* to store w, h, dx and dy fro all components and resolutions*/
1556     OPJ_UINT32 * l_tmp_data;
1557     OPJ_UINT32 ** l_tmp_ptr;
1558
1559     /* encoding prameters to set*/
1560     OPJ_UINT32 l_max_res;
1561     OPJ_UINT32 l_max_prec;
1562     OPJ_INT32 l_tx0, l_tx1, l_ty0, l_ty1;
1563     OPJ_UINT32 l_dx_min, l_dy_min;
1564     OPJ_UINT32 l_bound;
1565     OPJ_UINT32 l_step_p, l_step_c, l_step_r, l_step_l ;
1566     OPJ_UINT32 l_data_stride;
1567
1568     /* pointers*/
1569     opj_pi_iterator_t *l_pi = 00;
1570     opj_tcp_t *l_tcp = 00;
1571     const opj_tccp_t *l_tccp = 00;
1572     opj_pi_comp_t *l_current_comp = 00;
1573     opj_image_comp_t * l_img_comp = 00;
1574     opj_pi_iterator_t * l_current_pi = 00;
1575     OPJ_UINT32 * l_encoding_value_ptr = 00;
1576
1577     /* preconditions in debug*/
1578     assert(p_cp != 00);
1579     assert(p_image != 00);
1580     assert(p_tile_no < p_cp->tw * p_cp->th);
1581
1582     /* initializations*/
1583     l_tcp = &p_cp->tcps[p_tile_no];
1584     l_bound = l_tcp->numpocs + 1;
1585
1586     l_data_stride = 4 * OPJ_J2K_MAXRLVLS;
1587     l_tmp_data = (OPJ_UINT32*)opj_malloc(
1588                      l_data_stride * p_image->numcomps * sizeof(OPJ_UINT32));
1589     if (! l_tmp_data) {
1590         return 00;
1591     }
1592
1593     l_tmp_ptr = (OPJ_UINT32**)opj_malloc(
1594                     p_image->numcomps * sizeof(OPJ_UINT32 *));
1595     if (! l_tmp_ptr) {
1596         opj_free(l_tmp_data);
1597         return 00;
1598     }
1599
1600     /* memory allocation for pi*/
1601     l_pi = opj_pi_create(p_image, p_cp, p_tile_no);
1602     if (!l_pi) {
1603         opj_free(l_tmp_data);
1604         opj_free(l_tmp_ptr);
1605         return 00;
1606     }
1607
1608     l_encoding_value_ptr = l_tmp_data;
1609     /* update pointer array*/
1610     for (compno = 0; compno < p_image->numcomps; ++compno) {
1611         l_tmp_ptr[compno] = l_encoding_value_ptr;
1612         l_encoding_value_ptr += l_data_stride;
1613     }
1614
1615     /* get encoding parameters*/
1616     opj_get_all_encoding_parameters(p_image, p_cp, p_tile_no, &l_tx0, &l_tx1,
1617                                     &l_ty0, &l_ty1, &l_dx_min, &l_dy_min, &l_max_prec, &l_max_res, l_tmp_ptr);
1618
1619     /* step calculations*/
1620     l_step_p = 1;
1621     l_step_c = l_max_prec * l_step_p;
1622     l_step_r = p_image->numcomps * l_step_c;
1623     l_step_l = l_max_res * l_step_r;
1624
1625     /* set values for first packet iterator*/
1626     l_pi->tp_on = (OPJ_BYTE)p_cp->m_specific_param.m_enc.m_tp_on;
1627     l_current_pi = l_pi;
1628
1629     /* memory allocation for include*/
1630     l_current_pi->include_size = l_tcp->numlayers * l_step_l;
1631     l_current_pi->include = (OPJ_INT16*) opj_calloc(l_current_pi->include_size,
1632                             sizeof(OPJ_INT16));
1633     if (!l_current_pi->include) {
1634         opj_free(l_tmp_data);
1635         opj_free(l_tmp_ptr);
1636         opj_pi_destroy(l_pi, l_bound);
1637         return 00;
1638     }
1639
1640     /* special treatment for the first packet iterator*/
1641     l_current_comp = l_current_pi->comps;
1642     l_img_comp = p_image->comps;
1643     l_tccp = l_tcp->tccps;
1644     l_current_pi->tx0 = l_tx0;
1645     l_current_pi->ty0 = l_ty0;
1646     l_current_pi->tx1 = l_tx1;
1647     l_current_pi->ty1 = l_ty1;
1648     l_current_pi->dx = l_dx_min;
1649     l_current_pi->dy = l_dy_min;
1650     l_current_pi->step_p = l_step_p;
1651     l_current_pi->step_c = l_step_c;
1652     l_current_pi->step_r = l_step_r;
1653     l_current_pi->step_l = l_step_l;
1654
1655     /* allocation for components and number of components has already been calculated by opj_pi_create */
1656     for (compno = 0; compno < l_current_pi->numcomps; ++compno) {
1657         opj_pi_resolution_t *l_res = l_current_comp->resolutions;
1658         l_encoding_value_ptr = l_tmp_ptr[compno];
1659
1660         l_current_comp->dx = l_img_comp->dx;
1661         l_current_comp->dy = l_img_comp->dy;
1662
1663         /* resolutions have already been initialized */
1664         for (resno = 0; resno < l_current_comp->numresolutions; resno++) {
1665             l_res->pdx = *(l_encoding_value_ptr++);
1666             l_res->pdy = *(l_encoding_value_ptr++);
1667             l_res->pw =  *(l_encoding_value_ptr++);
1668             l_res->ph =  *(l_encoding_value_ptr++);
1669             ++l_res;
1670         }
1671
1672         ++l_current_comp;
1673         ++l_img_comp;
1674         ++l_tccp;
1675     }
1676     ++l_current_pi;
1677
1678     for (pino = 1 ; pino < l_bound ; ++pino) {
1679         l_current_comp = l_current_pi->comps;
1680         l_img_comp = p_image->comps;
1681         l_tccp = l_tcp->tccps;
1682
1683         l_current_pi->tx0 = l_tx0;
1684         l_current_pi->ty0 = l_ty0;
1685         l_current_pi->tx1 = l_tx1;
1686         l_current_pi->ty1 = l_ty1;
1687         l_current_pi->dx = l_dx_min;
1688         l_current_pi->dy = l_dy_min;
1689         l_current_pi->step_p = l_step_p;
1690         l_current_pi->step_c = l_step_c;
1691         l_current_pi->step_r = l_step_r;
1692         l_current_pi->step_l = l_step_l;
1693
1694         /* allocation for components and number of components has already been calculated by opj_pi_create */
1695         for (compno = 0; compno < l_current_pi->numcomps; ++compno) {
1696             opj_pi_resolution_t *l_res = l_current_comp->resolutions;
1697             l_encoding_value_ptr = l_tmp_ptr[compno];
1698
1699             l_current_comp->dx = l_img_comp->dx;
1700             l_current_comp->dy = l_img_comp->dy;
1701             /* resolutions have already been initialized */
1702             for (resno = 0; resno < l_current_comp->numresolutions; resno++) {
1703                 l_res->pdx = *(l_encoding_value_ptr++);
1704                 l_res->pdy = *(l_encoding_value_ptr++);
1705                 l_res->pw =  *(l_encoding_value_ptr++);
1706                 l_res->ph =  *(l_encoding_value_ptr++);
1707                 ++l_res;
1708             }
1709             ++l_current_comp;
1710             ++l_img_comp;
1711             ++l_tccp;
1712         }
1713
1714         /* special treatment*/
1715         l_current_pi->include = (l_current_pi - 1)->include;
1716         l_current_pi->include_size = (l_current_pi - 1)->include_size;
1717         ++l_current_pi;
1718     }
1719
1720     opj_free(l_tmp_data);
1721     l_tmp_data = 00;
1722     opj_free(l_tmp_ptr);
1723     l_tmp_ptr = 00;
1724
1725     if (l_tcp->POC && (OPJ_IS_CINEMA(p_cp->rsiz) || p_t2_mode == FINAL_PASS)) {
1726         opj_pi_update_encode_poc_and_final(p_cp, p_tile_no, l_tx0, l_tx1, l_ty0, l_ty1,
1727                                            l_max_prec, l_max_res, l_dx_min, l_dy_min);
1728     } else {
1729         opj_pi_update_encode_not_poc(p_cp, p_image->numcomps, p_tile_no, l_tx0, l_tx1,
1730                                      l_ty0, l_ty1, l_max_prec, l_max_res, l_dx_min, l_dy_min);
1731     }
1732
1733     return l_pi;
1734 }
1735
1736 void opj_pi_create_encode(opj_pi_iterator_t *pi,
1737                           opj_cp_t *cp,
1738                           OPJ_UINT32 tileno,
1739                           OPJ_UINT32 pino,
1740                           OPJ_UINT32 tpnum,
1741                           OPJ_INT32 tppos,
1742                           J2K_T2_MODE t2_mode)
1743 {
1744     const OPJ_CHAR *prog;
1745     OPJ_INT32 i;
1746     OPJ_UINT32 incr_top = 1, resetX = 0;
1747     opj_tcp_t *tcps = &cp->tcps[tileno];
1748     opj_poc_t *tcp = &tcps->pocs[pino];
1749
1750     prog = opj_j2k_convert_progression_order(tcp->prg);
1751
1752     pi[pino].first = 1;
1753     pi[pino].poc.prg = tcp->prg;
1754
1755     if (!(cp->m_specific_param.m_enc.m_tp_on && ((!OPJ_IS_CINEMA(cp->rsiz) &&
1756             (t2_mode == FINAL_PASS)) || OPJ_IS_CINEMA(cp->rsiz)))) {
1757         pi[pino].poc.resno0 = tcp->resS;
1758         pi[pino].poc.resno1 = tcp->resE;
1759         pi[pino].poc.compno0 = tcp->compS;
1760         pi[pino].poc.compno1 = tcp->compE;
1761         pi[pino].poc.layno0 = tcp->layS;
1762         pi[pino].poc.layno1 = tcp->layE;
1763         pi[pino].poc.precno0 = tcp->prcS;
1764         pi[pino].poc.precno1 = tcp->prcE;
1765         pi[pino].poc.tx0 = (OPJ_INT32)tcp->txS;
1766         pi[pino].poc.ty0 = (OPJ_INT32)tcp->tyS;
1767         pi[pino].poc.tx1 = (OPJ_INT32)tcp->txE;
1768         pi[pino].poc.ty1 = (OPJ_INT32)tcp->tyE;
1769     } else {
1770         for (i = tppos + 1; i < 4; i++) {
1771             switch (prog[i]) {
1772             case 'R':
1773                 pi[pino].poc.resno0 = tcp->resS;
1774                 pi[pino].poc.resno1 = tcp->resE;
1775                 break;
1776             case 'C':
1777                 pi[pino].poc.compno0 = tcp->compS;
1778                 pi[pino].poc.compno1 = tcp->compE;
1779                 break;
1780             case 'L':
1781                 pi[pino].poc.layno0 = tcp->layS;
1782                 pi[pino].poc.layno1 = tcp->layE;
1783                 break;
1784             case 'P':
1785                 switch (tcp->prg) {
1786                 case OPJ_LRCP:
1787                 case OPJ_RLCP:
1788                     pi[pino].poc.precno0 = tcp->prcS;
1789                     pi[pino].poc.precno1 = tcp->prcE;
1790                     break;
1791                 default:
1792                     pi[pino].poc.tx0 = (OPJ_INT32)tcp->txS;
1793                     pi[pino].poc.ty0 = (OPJ_INT32)tcp->tyS;
1794                     pi[pino].poc.tx1 = (OPJ_INT32)tcp->txE;
1795                     pi[pino].poc.ty1 = (OPJ_INT32)tcp->tyE;
1796                     break;
1797                 }
1798                 break;
1799             }
1800         }
1801
1802         if (tpnum == 0) {
1803             for (i = tppos; i >= 0; i--) {
1804                 switch (prog[i]) {
1805                 case 'C':
1806                     tcp->comp_t = tcp->compS;
1807                     pi[pino].poc.compno0 = tcp->comp_t;
1808                     pi[pino].poc.compno1 = tcp->comp_t + 1;
1809                     tcp->comp_t += 1;
1810                     break;
1811                 case 'R':
1812                     tcp->res_t = tcp->resS;
1813                     pi[pino].poc.resno0 = tcp->res_t;
1814                     pi[pino].poc.resno1 = tcp->res_t + 1;
1815                     tcp->res_t += 1;
1816                     break;
1817                 case 'L':
1818                     tcp->lay_t = tcp->layS;
1819                     pi[pino].poc.layno0 = tcp->lay_t;
1820                     pi[pino].poc.layno1 = tcp->lay_t + 1;
1821                     tcp->lay_t += 1;
1822                     break;
1823                 case 'P':
1824                     switch (tcp->prg) {
1825                     case OPJ_LRCP:
1826                     case OPJ_RLCP:
1827                         tcp->prc_t = tcp->prcS;
1828                         pi[pino].poc.precno0 = tcp->prc_t;
1829                         pi[pino].poc.precno1 = tcp->prc_t + 1;
1830                         tcp->prc_t += 1;
1831                         break;
1832                     default:
1833                         tcp->tx0_t = tcp->txS;
1834                         tcp->ty0_t = tcp->tyS;
1835                         pi[pino].poc.tx0 = (OPJ_INT32)tcp->tx0_t;
1836                         pi[pino].poc.tx1 = (OPJ_INT32)(tcp->tx0_t + tcp->dx - (tcp->tx0_t % tcp->dx));
1837                         pi[pino].poc.ty0 = (OPJ_INT32)tcp->ty0_t;
1838                         pi[pino].poc.ty1 = (OPJ_INT32)(tcp->ty0_t + tcp->dy - (tcp->ty0_t % tcp->dy));
1839                         tcp->tx0_t = (OPJ_UINT32)pi[pino].poc.tx1;
1840                         tcp->ty0_t = (OPJ_UINT32)pi[pino].poc.ty1;
1841                         break;
1842                     }
1843                     break;
1844                 }
1845             }
1846             incr_top = 1;
1847         } else {
1848             for (i = tppos; i >= 0; i--) {
1849                 switch (prog[i]) {
1850                 case 'C':
1851                     pi[pino].poc.compno0 = tcp->comp_t - 1;
1852                     pi[pino].poc.compno1 = tcp->comp_t;
1853                     break;
1854                 case 'R':
1855                     pi[pino].poc.resno0 = tcp->res_t - 1;
1856                     pi[pino].poc.resno1 = tcp->res_t;
1857                     break;
1858                 case 'L':
1859                     pi[pino].poc.layno0 = tcp->lay_t - 1;
1860                     pi[pino].poc.layno1 = tcp->lay_t;
1861                     break;
1862                 case 'P':
1863                     switch (tcp->prg) {
1864                     case OPJ_LRCP:
1865                     case OPJ_RLCP:
1866                         pi[pino].poc.precno0 = tcp->prc_t - 1;
1867                         pi[pino].poc.precno1 = tcp->prc_t;
1868                         break;
1869                     default:
1870                         pi[pino].poc.tx0 = (OPJ_INT32)(tcp->tx0_t - tcp->dx - (tcp->tx0_t % tcp->dx));
1871                         pi[pino].poc.tx1 = (OPJ_INT32)tcp->tx0_t ;
1872                         pi[pino].poc.ty0 = (OPJ_INT32)(tcp->ty0_t - tcp->dy - (tcp->ty0_t % tcp->dy));
1873                         pi[pino].poc.ty1 = (OPJ_INT32)tcp->ty0_t ;
1874                         break;
1875                     }
1876                     break;
1877                 }
1878                 if (incr_top == 1) {
1879                     switch (prog[i]) {
1880                     case 'R':
1881                         if (tcp->res_t == tcp->resE) {
1882                             if (opj_pi_check_next_level(i - 1, cp, tileno, pino, prog)) {
1883                                 tcp->res_t = tcp->resS;
1884                                 pi[pino].poc.resno0 = tcp->res_t;
1885                                 pi[pino].poc.resno1 = tcp->res_t + 1;
1886                                 tcp->res_t += 1;
1887                                 incr_top = 1;
1888                             } else {
1889                                 incr_top = 0;
1890                             }
1891                         } else {
1892                             pi[pino].poc.resno0 = tcp->res_t;
1893                             pi[pino].poc.resno1 = tcp->res_t + 1;
1894                             tcp->res_t += 1;
1895                             incr_top = 0;
1896                         }
1897                         break;
1898                     case 'C':
1899                         if (tcp->comp_t == tcp->compE) {
1900                             if (opj_pi_check_next_level(i - 1, cp, tileno, pino, prog)) {
1901                                 tcp->comp_t = tcp->compS;
1902                                 pi[pino].poc.compno0 = tcp->comp_t;
1903                                 pi[pino].poc.compno1 = tcp->comp_t + 1;
1904                                 tcp->comp_t += 1;
1905                                 incr_top = 1;
1906                             } else {
1907                                 incr_top = 0;
1908                             }
1909                         } else {
1910                             pi[pino].poc.compno0 = tcp->comp_t;
1911                             pi[pino].poc.compno1 = tcp->comp_t + 1;
1912                             tcp->comp_t += 1;
1913                             incr_top = 0;
1914                         }
1915                         break;
1916                     case 'L':
1917                         if (tcp->lay_t == tcp->layE) {
1918                             if (opj_pi_check_next_level(i - 1, cp, tileno, pino, prog)) {
1919                                 tcp->lay_t = tcp->layS;
1920                                 pi[pino].poc.layno0 = tcp->lay_t;
1921                                 pi[pino].poc.layno1 = tcp->lay_t + 1;
1922                                 tcp->lay_t += 1;
1923                                 incr_top = 1;
1924                             } else {
1925                                 incr_top = 0;
1926                             }
1927                         } else {
1928                             pi[pino].poc.layno0 = tcp->lay_t;
1929                             pi[pino].poc.layno1 = tcp->lay_t + 1;
1930                             tcp->lay_t += 1;
1931                             incr_top = 0;
1932                         }
1933                         break;
1934                     case 'P':
1935                         switch (tcp->prg) {
1936                         case OPJ_LRCP:
1937                         case OPJ_RLCP:
1938                             if (tcp->prc_t == tcp->prcE) {
1939                                 if (opj_pi_check_next_level(i - 1, cp, tileno, pino, prog)) {
1940                                     tcp->prc_t = tcp->prcS;
1941                                     pi[pino].poc.precno0 = tcp->prc_t;
1942                                     pi[pino].poc.precno1 = tcp->prc_t + 1;
1943                                     tcp->prc_t += 1;
1944                                     incr_top = 1;
1945                                 } else {
1946                                     incr_top = 0;
1947                                 }
1948                             } else {
1949                                 pi[pino].poc.precno0 = tcp->prc_t;
1950                                 pi[pino].poc.precno1 = tcp->prc_t + 1;
1951                                 tcp->prc_t += 1;
1952                                 incr_top = 0;
1953                             }
1954                             break;
1955                         default:
1956                             if (tcp->tx0_t >= tcp->txE) {
1957                                 if (tcp->ty0_t >= tcp->tyE) {
1958                                     if (opj_pi_check_next_level(i - 1, cp, tileno, pino, prog)) {
1959                                         tcp->ty0_t = tcp->tyS;
1960                                         pi[pino].poc.ty0 = (OPJ_INT32)tcp->ty0_t;
1961                                         pi[pino].poc.ty1 = (OPJ_INT32)(tcp->ty0_t + tcp->dy - (tcp->ty0_t % tcp->dy));
1962                                         tcp->ty0_t = (OPJ_UINT32)pi[pino].poc.ty1;
1963                                         incr_top = 1;
1964                                         resetX = 1;
1965                                     } else {
1966                                         incr_top = 0;
1967                                         resetX = 0;
1968                                     }
1969                                 } else {
1970                                     pi[pino].poc.ty0 = (OPJ_INT32)tcp->ty0_t;
1971                                     pi[pino].poc.ty1 = (OPJ_INT32)(tcp->ty0_t + tcp->dy - (tcp->ty0_t % tcp->dy));
1972                                     tcp->ty0_t = (OPJ_UINT32)pi[pino].poc.ty1;
1973                                     incr_top = 0;
1974                                     resetX = 1;
1975                                 }
1976                                 if (resetX == 1) {
1977                                     tcp->tx0_t = tcp->txS;
1978                                     pi[pino].poc.tx0 = (OPJ_INT32)tcp->tx0_t;
1979                                     pi[pino].poc.tx1 = (OPJ_INT32)(tcp->tx0_t + tcp->dx - (tcp->tx0_t % tcp->dx));
1980                                     tcp->tx0_t = (OPJ_UINT32)pi[pino].poc.tx1;
1981                                 }
1982                             } else {
1983                                 pi[pino].poc.tx0 = (OPJ_INT32)tcp->tx0_t;
1984                                 pi[pino].poc.tx1 = (OPJ_INT32)(tcp->tx0_t + tcp->dx - (tcp->tx0_t % tcp->dx));
1985                                 tcp->tx0_t = (OPJ_UINT32)pi[pino].poc.tx1;
1986                                 incr_top = 0;
1987                             }
1988                             break;
1989                         }
1990                         break;
1991                     }
1992                 }
1993             }
1994         }
1995     }
1996 }
1997
1998 void opj_pi_destroy(opj_pi_iterator_t *p_pi,
1999                     OPJ_UINT32 p_nb_elements)
2000 {
2001     OPJ_UINT32 compno, pino;
2002     opj_pi_iterator_t *l_current_pi = p_pi;
2003     if (p_pi) {
2004         if (p_pi->include) {
2005             opj_free(p_pi->include);
2006             p_pi->include = 00;
2007         }
2008         for (pino = 0; pino < p_nb_elements; ++pino) {
2009             if (l_current_pi->comps) {
2010                 opj_pi_comp_t *l_current_component = l_current_pi->comps;
2011                 for (compno = 0; compno < l_current_pi->numcomps; compno++) {
2012                     if (l_current_component->resolutions) {
2013                         opj_free(l_current_component->resolutions);
2014                         l_current_component->resolutions = 00;
2015                     }
2016
2017                     ++l_current_component;
2018                 }
2019                 opj_free(l_current_pi->comps);
2020                 l_current_pi->comps = 0;
2021             }
2022             ++l_current_pi;
2023         }
2024         opj_free(p_pi);
2025     }
2026 }
2027
2028
2029
2030 void opj_pi_update_encoding_parameters(const opj_image_t *p_image,
2031                                        opj_cp_t *p_cp,
2032                                        OPJ_UINT32 p_tile_no)
2033 {
2034     /* encoding parameters to set */
2035     OPJ_UINT32 l_max_res;
2036     OPJ_UINT32 l_max_prec;
2037     OPJ_INT32 l_tx0, l_tx1, l_ty0, l_ty1;
2038     OPJ_UINT32 l_dx_min, l_dy_min;
2039
2040     /* pointers */
2041     opj_tcp_t *l_tcp = 00;
2042
2043     /* preconditions */
2044     assert(p_cp != 00);
2045     assert(p_image != 00);
2046     assert(p_tile_no < p_cp->tw * p_cp->th);
2047
2048     l_tcp = &(p_cp->tcps[p_tile_no]);
2049
2050     /* get encoding parameters */
2051     opj_get_encoding_parameters(p_image, p_cp, p_tile_no, &l_tx0, &l_tx1, &l_ty0,
2052                                 &l_ty1, &l_dx_min, &l_dy_min, &l_max_prec, &l_max_res);
2053
2054     if (l_tcp->POC) {
2055         opj_pi_update_encode_poc_and_final(p_cp, p_tile_no, l_tx0, l_tx1, l_ty0, l_ty1,
2056                                            l_max_prec, l_max_res, l_dx_min, l_dy_min);
2057     } else {
2058         opj_pi_update_encode_not_poc(p_cp, p_image->numcomps, p_tile_no, l_tx0, l_tx1,
2059                                      l_ty0, l_ty1, l_max_prec, l_max_res, l_dx_min, l_dy_min);
2060     }
2061 }
2062
2063 OPJ_BOOL opj_pi_next(opj_pi_iterator_t * pi)
2064 {
2065     switch (pi->poc.prg) {
2066     case OPJ_LRCP:
2067         return opj_pi_next_lrcp(pi);
2068     case OPJ_RLCP:
2069         return opj_pi_next_rlcp(pi);
2070     case OPJ_RPCL:
2071         return opj_pi_next_rpcl(pi);
2072     case OPJ_PCRL:
2073         return opj_pi_next_pcrl(pi);
2074     case OPJ_CPRL:
2075         return opj_pi_next_cprl(pi);
2076     case OPJ_PROG_UNKNOWN:
2077         return OPJ_FALSE;
2078     }
2079
2080     return OPJ_FALSE;
2081 }