Merge pull request #1001 from rouault/subtile_decoding_stage2
[openjpeg.git] / src / bin / common / color.c
1 /*
2  * The copyright in this software is being made available under the 2-clauses
3  * BSD License, included below. This software may be subject to other third
4  * party and contributor rights, including patent rights, and no such rights
5  * are granted under this license.
6  *
7  * Copyright (c) 2002-2014, Universite catholique de Louvain (UCL), Belgium
8  * Copyright (c) 2002-2014, Professor Benoit Macq
9  * Copyright (c) 2001-2003, David Janssens
10  * Copyright (c) 2002-2003, Yannick Verschueren
11  * Copyright (c) 2003-2007, Francois-Olivier Devaux
12  * Copyright (c) 2003-2014, Antonin Descampe
13  * Copyright (c) 2005, Herve Drolon, FreeImage Team
14  * All rights reserved.
15  *
16  * Redistribution and use in source and binary forms, with or without
17  * modification, are permitted provided that the following conditions
18  * are met:
19  * 1. Redistributions of source code must retain the above copyright
20  *    notice, this list of conditions and the following disclaimer.
21  * 2. Redistributions in binary form must reproduce the above copyright
22  *    notice, this list of conditions and the following disclaimer in the
23  *    documentation and/or other materials provided with the distribution.
24  *
25  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS `AS IS'
26  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
27  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
28  * ARE DISCLAIMED.  IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
29  * LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
30  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
31  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
32  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
33  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
34  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
35  * POSSIBILITY OF SUCH DAMAGE.
36  */
37
38 #include <stdio.h>
39 #include <string.h>
40 #include <stdlib.h>
41 #include <math.h>
42 #include <assert.h>
43
44 #include "opj_apps_config.h"
45 #include "openjpeg.h"
46 #include "color.h"
47
48 #ifdef OPJ_HAVE_LIBLCMS2
49 #include <lcms2.h>
50 #endif
51 #ifdef OPJ_HAVE_LIBLCMS1
52 #include <lcms.h>
53 #endif
54
55 #ifdef OPJ_USE_LEGACY
56 #define OPJ_CLRSPC_GRAY CLRSPC_GRAY
57 #define OPJ_CLRSPC_SRGB CLRSPC_SRGB
58 #endif
59
60 /*--------------------------------------------------------
61 Matrix for sYCC, Amendment 1 to IEC 61966-2-1
62
63 Y :   0.299   0.587    0.114   :R
64 Cb:  -0.1687 -0.3312   0.5     :G
65 Cr:   0.5    -0.4187  -0.0812  :B
66
67 Inverse:
68
69 R: 1        -3.68213e-05    1.40199      :Y
70 G: 1.00003  -0.344125      -0.714128     :Cb - 2^(prec - 1)
71 B: 0.999823  1.77204       -8.04142e-06  :Cr - 2^(prec - 1)
72
73 -----------------------------------------------------------*/
74 static void sycc_to_rgb(int offset, int upb, int y, int cb, int cr,
75                         int *out_r, int *out_g, int *out_b)
76 {
77     int r, g, b;
78
79     cb -= offset;
80     cr -= offset;
81     r = y + (int)(1.402 * (float)cr);
82     if (r < 0) {
83         r = 0;
84     } else if (r > upb) {
85         r = upb;
86     }
87     *out_r = r;
88
89     g = y - (int)(0.344 * (float)cb + 0.714 * (float)cr);
90     if (g < 0) {
91         g = 0;
92     } else if (g > upb) {
93         g = upb;
94     }
95     *out_g = g;
96
97     b = y + (int)(1.772 * (float)cb);
98     if (b < 0) {
99         b = 0;
100     } else if (b > upb) {
101         b = upb;
102     }
103     *out_b = b;
104 }
105
106 static void sycc444_to_rgb(opj_image_t *img)
107 {
108     int *d0, *d1, *d2, *r, *g, *b;
109     const int *y, *cb, *cr;
110     size_t maxw, maxh, max, i;
111     int offset, upb;
112
113     upb = (int)img->comps[0].prec;
114     offset = 1 << (upb - 1);
115     upb = (1 << upb) - 1;
116
117     maxw = (size_t)img->comps[0].w;
118     maxh = (size_t)img->comps[0].h;
119     max = maxw * maxh;
120
121     y = img->comps[0].data;
122     cb = img->comps[1].data;
123     cr = img->comps[2].data;
124
125     d0 = r = (int*)opj_image_data_alloc(sizeof(int) * max);
126     d1 = g = (int*)opj_image_data_alloc(sizeof(int) * max);
127     d2 = b = (int*)opj_image_data_alloc(sizeof(int) * max);
128
129     if (r == NULL || g == NULL || b == NULL) {
130         goto fails;
131     }
132
133     for (i = 0U; i < max; ++i) {
134         sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
135         ++y;
136         ++cb;
137         ++cr;
138         ++r;
139         ++g;
140         ++b;
141     }
142     opj_image_data_free(img->comps[0].data);
143     img->comps[0].data = d0;
144     opj_image_data_free(img->comps[1].data);
145     img->comps[1].data = d1;
146     opj_image_data_free(img->comps[2].data);
147     img->comps[2].data = d2;
148     img->color_space = OPJ_CLRSPC_SRGB;
149     return;
150
151 fails:
152     opj_image_data_free(r);
153     opj_image_data_free(g);
154     opj_image_data_free(b);
155 }/* sycc444_to_rgb() */
156
157 static void sycc422_to_rgb(opj_image_t *img)
158 {
159     int *d0, *d1, *d2, *r, *g, *b;
160     const int *y, *cb, *cr;
161     size_t maxw, maxh, max, offx, loopmaxw;
162     int offset, upb;
163     size_t i;
164
165     upb = (int)img->comps[0].prec;
166     offset = 1 << (upb - 1);
167     upb = (1 << upb) - 1;
168
169     maxw = (size_t)img->comps[0].w;
170     maxh = (size_t)img->comps[0].h;
171     max = maxw * maxh;
172
173     y = img->comps[0].data;
174     cb = img->comps[1].data;
175     cr = img->comps[2].data;
176
177     d0 = r = (int*)opj_image_data_alloc(sizeof(int) * max);
178     d1 = g = (int*)opj_image_data_alloc(sizeof(int) * max);
179     d2 = b = (int*)opj_image_data_alloc(sizeof(int) * max);
180
181     if (r == NULL || g == NULL || b == NULL) {
182         goto fails;
183     }
184
185     /* if img->x0 is odd, then first column shall use Cb/Cr = 0 */
186     offx = img->x0 & 1U;
187     loopmaxw = maxw - offx;
188
189     for (i = 0U; i < maxh; ++i) {
190         size_t j;
191
192         if (offx > 0U) {
193             sycc_to_rgb(offset, upb, *y, 0, 0, r, g, b);
194             ++y;
195             ++r;
196             ++g;
197             ++b;
198         }
199
200         for (j = 0U; j < (loopmaxw & ~(size_t)1U); j += 2U) {
201             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
202             ++y;
203             ++r;
204             ++g;
205             ++b;
206             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
207             ++y;
208             ++r;
209             ++g;
210             ++b;
211             ++cb;
212             ++cr;
213         }
214         if (j < loopmaxw) {
215             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
216             ++y;
217             ++r;
218             ++g;
219             ++b;
220             ++cb;
221             ++cr;
222         }
223     }
224
225     opj_image_data_free(img->comps[0].data);
226     img->comps[0].data = d0;
227     opj_image_data_free(img->comps[1].data);
228     img->comps[1].data = d1;
229     opj_image_data_free(img->comps[2].data);
230     img->comps[2].data = d2;
231
232     img->comps[1].w = img->comps[2].w = img->comps[0].w;
233     img->comps[1].h = img->comps[2].h = img->comps[0].h;
234     img->comps[1].dx = img->comps[2].dx = img->comps[0].dx;
235     img->comps[1].dy = img->comps[2].dy = img->comps[0].dy;
236     img->color_space = OPJ_CLRSPC_SRGB;
237     return;
238
239 fails:
240     opj_image_data_free(r);
241     opj_image_data_free(g);
242     opj_image_data_free(b);
243 }/* sycc422_to_rgb() */
244
245 static void sycc420_to_rgb(opj_image_t *img)
246 {
247     int *d0, *d1, *d2, *r, *g, *b, *nr, *ng, *nb;
248     const int *y, *cb, *cr, *ny;
249     size_t maxw, maxh, max, offx, loopmaxw, offy, loopmaxh;
250     int offset, upb;
251     size_t i;
252
253     upb = (int)img->comps[0].prec;
254     offset = 1 << (upb - 1);
255     upb = (1 << upb) - 1;
256
257     maxw = (size_t)img->comps[0].w;
258     maxh = (size_t)img->comps[0].h;
259     max = maxw * maxh;
260
261     y = img->comps[0].data;
262     cb = img->comps[1].data;
263     cr = img->comps[2].data;
264
265     d0 = r = (int*)opj_image_data_alloc(sizeof(int) * max);
266     d1 = g = (int*)opj_image_data_alloc(sizeof(int) * max);
267     d2 = b = (int*)opj_image_data_alloc(sizeof(int) * max);
268
269     if (r == NULL || g == NULL || b == NULL) {
270         goto fails;
271     }
272
273     /* if img->x0 is odd, then first column shall use Cb/Cr = 0 */
274     offx = img->x0 & 1U;
275     loopmaxw = maxw - offx;
276     /* if img->y0 is odd, then first line shall use Cb/Cr = 0 */
277     offy = img->y0 & 1U;
278     loopmaxh = maxh - offy;
279
280     if (offy > 0U) {
281         size_t j;
282
283         for (j = 0; j < maxw; ++j) {
284             sycc_to_rgb(offset, upb, *y, 0, 0, r, g, b);
285             ++y;
286             ++r;
287             ++g;
288             ++b;
289         }
290     }
291
292     for (i = 0U; i < (loopmaxh & ~(size_t)1U); i += 2U) {
293         size_t j;
294
295         ny = y + maxw;
296         nr = r + maxw;
297         ng = g + maxw;
298         nb = b + maxw;
299
300         if (offx > 0U) {
301             sycc_to_rgb(offset, upb, *y, 0, 0, r, g, b);
302             ++y;
303             ++r;
304             ++g;
305             ++b;
306             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
307             ++ny;
308             ++nr;
309             ++ng;
310             ++nb;
311         }
312
313         for (j = 0; j < (loopmaxw & ~(size_t)1U); j += 2U) {
314             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
315             ++y;
316             ++r;
317             ++g;
318             ++b;
319             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
320             ++y;
321             ++r;
322             ++g;
323             ++b;
324
325             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
326             ++ny;
327             ++nr;
328             ++ng;
329             ++nb;
330             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
331             ++ny;
332             ++nr;
333             ++ng;
334             ++nb;
335             ++cb;
336             ++cr;
337         }
338         if (j < loopmaxw) {
339             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
340             ++y;
341             ++r;
342             ++g;
343             ++b;
344
345             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
346             ++ny;
347             ++nr;
348             ++ng;
349             ++nb;
350             ++cb;
351             ++cr;
352         }
353         y += maxw;
354         r += maxw;
355         g += maxw;
356         b += maxw;
357     }
358     if (i < loopmaxh) {
359         size_t j;
360
361         for (j = 0U; j < (maxw & ~(size_t)1U); j += 2U) {
362             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
363
364             ++y;
365             ++r;
366             ++g;
367             ++b;
368
369             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
370
371             ++y;
372             ++r;
373             ++g;
374             ++b;
375             ++cb;
376             ++cr;
377         }
378         if (j < maxw) {
379             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
380         }
381     }
382
383     opj_image_data_free(img->comps[0].data);
384     img->comps[0].data = d0;
385     opj_image_data_free(img->comps[1].data);
386     img->comps[1].data = d1;
387     opj_image_data_free(img->comps[2].data);
388     img->comps[2].data = d2;
389
390     img->comps[1].w = img->comps[2].w = img->comps[0].w;
391     img->comps[1].h = img->comps[2].h = img->comps[0].h;
392     img->comps[1].dx = img->comps[2].dx = img->comps[0].dx;
393     img->comps[1].dy = img->comps[2].dy = img->comps[0].dy;
394     img->color_space = OPJ_CLRSPC_SRGB;
395     return;
396
397 fails:
398     opj_image_data_free(r);
399     opj_image_data_free(g);
400     opj_image_data_free(b);
401 }/* sycc420_to_rgb() */
402
403 void color_sycc_to_rgb(opj_image_t *img)
404 {
405     if (img->numcomps < 3) {
406         img->color_space = OPJ_CLRSPC_GRAY;
407         return;
408     }
409
410     if ((img->comps[0].dx == 1)
411             && (img->comps[1].dx == 2)
412             && (img->comps[2].dx == 2)
413             && (img->comps[0].dy == 1)
414             && (img->comps[1].dy == 2)
415             && (img->comps[2].dy == 2)) { /* horizontal and vertical sub-sample */
416         sycc420_to_rgb(img);
417     } else if ((img->comps[0].dx == 1)
418                && (img->comps[1].dx == 2)
419                && (img->comps[2].dx == 2)
420                && (img->comps[0].dy == 1)
421                && (img->comps[1].dy == 1)
422                && (img->comps[2].dy == 1)) { /* horizontal sub-sample only */
423         sycc422_to_rgb(img);
424     } else if ((img->comps[0].dx == 1)
425                && (img->comps[1].dx == 1)
426                && (img->comps[2].dx == 1)
427                && (img->comps[0].dy == 1)
428                && (img->comps[1].dy == 1)
429                && (img->comps[2].dy == 1)) { /* no sub-sample */
430         sycc444_to_rgb(img);
431     } else {
432         fprintf(stderr, "%s:%d:color_sycc_to_rgb\n\tCAN NOT CONVERT\n", __FILE__,
433                 __LINE__);
434         return;
435     }
436 }/* color_sycc_to_rgb() */
437
438 #if defined(OPJ_HAVE_LIBLCMS2) || defined(OPJ_HAVE_LIBLCMS1)
439
440 #ifdef OPJ_HAVE_LIBLCMS1
441 /* Bob Friesenhahn proposed:*/
442 #define cmsSigXYZData   icSigXYZData
443 #define cmsSigLabData   icSigLabData
444 #define cmsSigCmykData  icSigCmykData
445 #define cmsSigYCbCrData icSigYCbCrData
446 #define cmsSigLuvData   icSigLuvData
447 #define cmsSigGrayData  icSigGrayData
448 #define cmsSigRgbData   icSigRgbData
449 #define cmsUInt32Number DWORD
450
451 #define cmsColorSpaceSignature icColorSpaceSignature
452 #define cmsGetHeaderRenderingIntent cmsTakeRenderingIntent
453
454 #endif /* OPJ_HAVE_LIBLCMS1 */
455
456 /*#define DEBUG_PROFILE*/
457 void color_apply_icc_profile(opj_image_t *image)
458 {
459     cmsHPROFILE in_prof, out_prof;
460     cmsHTRANSFORM transform;
461     cmsColorSpaceSignature in_space, out_space;
462     cmsUInt32Number intent, in_type, out_type;
463     int *r, *g, *b;
464     size_t nr_samples, i, max, max_w, max_h;
465     int prec, ok = 0;
466     OPJ_COLOR_SPACE new_space;
467
468     in_prof = cmsOpenProfileFromMem(image->icc_profile_buf, image->icc_profile_len);
469 #ifdef DEBUG_PROFILE
470     FILE *icm = fopen("debug.icm", "wb");
471     fwrite(image->icc_profile_buf, 1, image->icc_profile_len, icm);
472     fclose(icm);
473 #endif
474
475     if (in_prof == NULL) {
476         return;
477     }
478
479     in_space = cmsGetPCS(in_prof);
480     out_space = cmsGetColorSpace(in_prof);
481     intent = cmsGetHeaderRenderingIntent(in_prof);
482
483
484     max_w = image->comps[0].w;
485     max_h = image->comps[0].h;
486     prec = (int)image->comps[0].prec;
487
488     if (out_space == cmsSigRgbData) { /* enumCS 16 */
489         unsigned int i, nr_comp = image->numcomps;
490
491         if (nr_comp > 4) {
492             nr_comp = 4;
493         }
494         for (i = 1; i < nr_comp; ++i) { /* AFL test */
495             if (image->comps[0].dx != image->comps[i].dx) {
496                 break;
497             }
498
499             if (image->comps[0].dy != image->comps[i].dy) {
500                 break;
501             }
502
503             if (image->comps[0].prec != image->comps[i].prec) {
504                 break;
505             }
506
507             if (image->comps[0].sgnd != image->comps[i].sgnd) {
508                 break;
509             }
510
511         }
512         if (i != nr_comp) {
513             cmsCloseProfile(in_prof);
514             return;
515         }
516
517         if (prec <= 8) {
518             in_type = TYPE_RGB_8;
519             out_type = TYPE_RGB_8;
520         } else {
521             in_type = TYPE_RGB_16;
522             out_type = TYPE_RGB_16;
523         }
524         out_prof = cmsCreate_sRGBProfile();
525         new_space = OPJ_CLRSPC_SRGB;
526     } else if (out_space == cmsSigGrayData) { /* enumCS 17 */
527         in_type = TYPE_GRAY_8;
528         out_type = TYPE_RGB_8;
529         out_prof = cmsCreate_sRGBProfile();
530         new_space = OPJ_CLRSPC_SRGB;
531     } else if (out_space == cmsSigYCbCrData) { /* enumCS 18 */
532         in_type = TYPE_YCbCr_16;
533         out_type = TYPE_RGB_16;
534         out_prof = cmsCreate_sRGBProfile();
535         new_space = OPJ_CLRSPC_SRGB;
536     } else {
537 #ifdef DEBUG_PROFILE
538         fprintf(stderr, "%s:%d: color_apply_icc_profile\n\tICC Profile has unknown "
539                 "output colorspace(%#x)(%c%c%c%c)\n\tICC Profile ignored.\n",
540                 __FILE__, __LINE__, out_space,
541                 (out_space >> 24) & 0xff, (out_space >> 16) & 0xff,
542                 (out_space >> 8) & 0xff, out_space & 0xff);
543 #endif
544         cmsCloseProfile(in_prof);
545
546         return;
547     }
548     if (out_prof == NULL) {
549         cmsCloseProfile(in_prof);
550         return;
551     }
552
553 #ifdef DEBUG_PROFILE
554     fprintf(stderr,
555             "%s:%d:color_apply_icc_profile\n\tchannels(%d) prec(%d) w(%d) h(%d)"
556             "\n\tprofile: in(%p) out(%p)\n", __FILE__, __LINE__, image->numcomps, prec,
557             max_w, max_h, (void*)in_prof, (void*)out_prof);
558
559     fprintf(stderr, "\trender_intent (%u)\n\t"
560             "color_space: in(%#x)(%c%c%c%c)   out:(%#x)(%c%c%c%c)\n\t"
561             "       type: in(%u)              out:(%u)\n",
562             intent,
563             in_space,
564             (in_space >> 24) & 0xff, (in_space >> 16) & 0xff,
565             (in_space >> 8) & 0xff, in_space & 0xff,
566
567             out_space,
568             (out_space >> 24) & 0xff, (out_space >> 16) & 0xff,
569             (out_space >> 8) & 0xff, out_space & 0xff,
570
571             in_type, out_type
572            );
573 #else
574     (void)prec;
575     (void)in_space;
576 #endif /* DEBUG_PROFILE */
577
578     transform = cmsCreateTransform(in_prof, in_type, out_prof, out_type, intent, 0);
579
580 #ifdef OPJ_HAVE_LIBLCMS2
581     /* Possible for: LCMS_VERSION >= 2000 :*/
582     cmsCloseProfile(in_prof);
583     cmsCloseProfile(out_prof);
584 #endif
585
586     if (transform == NULL) {
587 #ifdef DEBUG_PROFILE
588         fprintf(stderr, "%s:%d:color_apply_icc_profile\n\tcmsCreateTransform failed. "
589                 "ICC Profile ignored.\n", __FILE__, __LINE__);
590 #endif
591
592 #ifdef OPJ_HAVE_LIBLCMS1
593         cmsCloseProfile(in_prof);
594         cmsCloseProfile(out_prof);
595 #endif
596         return;
597     }
598
599     if (image->numcomps > 2) { /* RGB, RGBA */
600         if (prec <= 8) {
601             unsigned char *inbuf, *outbuf, *in, *out;
602
603             max = max_w * max_h;
604             nr_samples = (size_t)(max * 3U * sizeof(unsigned char));
605             in = inbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
606             out = outbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
607
608             if (inbuf == NULL || outbuf == NULL) {
609                 goto fails0;
610             }
611
612             r = image->comps[0].data;
613             g = image->comps[1].data;
614             b = image->comps[2].data;
615
616             for (i = 0U; i < max; ++i) {
617                 *in++ = (unsigned char) * r++;
618                 *in++ = (unsigned char) * g++;
619                 *in++ = (unsigned char) * b++;
620             }
621
622             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
623
624             r = image->comps[0].data;
625             g = image->comps[1].data;
626             b = image->comps[2].data;
627
628             for (i = 0U; i < max; ++i) {
629                 *r++ = (int) * out++;
630                 *g++ = (int) * out++;
631                 *b++ = (int) * out++;
632             }
633             ok = 1;
634
635 fails0:
636             opj_image_data_free(inbuf);
637             opj_image_data_free(outbuf);
638         } else { /* prec > 8 */
639             unsigned short *inbuf, *outbuf, *in, *out;
640
641             max = max_w * max_h;
642             nr_samples = (size_t)(max * 3U * sizeof(unsigned short));
643             in = inbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
644             out = outbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
645
646             if (inbuf == NULL || outbuf == NULL) {
647                 goto fails1;
648             }
649
650             r = image->comps[0].data;
651             g = image->comps[1].data;
652             b = image->comps[2].data;
653
654             for (i = 0U  ; i < max; ++i) {
655                 *in++ = (unsigned short) * r++;
656                 *in++ = (unsigned short) * g++;
657                 *in++ = (unsigned short) * b++;
658             }
659
660             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
661
662             r = image->comps[0].data;
663             g = image->comps[1].data;
664             b = image->comps[2].data;
665
666             for (i = 0; i < max; ++i) {
667                 *r++ = (int) * out++;
668                 *g++ = (int) * out++;
669                 *b++ = (int) * out++;
670             }
671             ok = 1;
672
673 fails1:
674             opj_image_data_free(inbuf);
675             opj_image_data_free(outbuf);
676         }
677     } else { /* image->numcomps <= 2 : GRAY, GRAYA */
678         if (prec <= 8) {
679             unsigned char *in, *inbuf, *out, *outbuf;
680             opj_image_comp_t *new_comps;
681
682             max = max_w * max_h;
683             nr_samples = (size_t)(max * 3 * sizeof(unsigned char));
684             in = inbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
685             out = outbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
686             g = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
687             b = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
688
689             if (inbuf == NULL || outbuf == NULL || g == NULL || b == NULL) {
690                 goto fails2;
691             }
692
693             new_comps = (opj_image_comp_t*)realloc(image->comps,
694                                                    (image->numcomps + 2) * sizeof(opj_image_comp_t));
695
696             if (new_comps == NULL) {
697                 goto fails2;
698             }
699
700             image->comps = new_comps;
701
702             if (image->numcomps == 2) {
703                 image->comps[3] = image->comps[1];
704             }
705
706             image->comps[1] = image->comps[0];
707             image->comps[2] = image->comps[0];
708
709             image->comps[1].data = g;
710             image->comps[2].data = b;
711
712             image->numcomps += 2;
713
714             r = image->comps[0].data;
715
716             for (i = 0U; i < max; ++i) {
717                 *in++ = (unsigned char) * r++;
718             }
719             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
720
721             r = image->comps[0].data;
722             g = image->comps[1].data;
723             b = image->comps[2].data;
724
725             for (i = 0U; i < max; ++i) {
726                 *r++ = (int) * out++;
727                 *g++ = (int) * out++;
728                 *b++ = (int) * out++;
729             }
730             r = g = b = NULL;
731             ok = 1;
732
733 fails2:
734             opj_image_data_free(inbuf);
735             opj_image_data_free(outbuf);
736             opj_image_data_free(g);
737             opj_image_data_free(b);
738         } else { /* prec > 8 */
739             unsigned short *in, *inbuf, *out, *outbuf;
740             opj_image_comp_t *new_comps;
741
742             max = max_w * max_h;
743             nr_samples = (size_t)(max * 3U * sizeof(unsigned short));
744             in = inbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
745             out = outbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
746             g = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
747             b = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
748
749             if (inbuf == NULL || outbuf == NULL || g == NULL || b == NULL) {
750                 goto fails3;
751             }
752
753             new_comps = (opj_image_comp_t*)realloc(image->comps,
754                                                    (image->numcomps + 2) * sizeof(opj_image_comp_t));
755
756             if (new_comps == NULL) {
757                 goto fails3;
758             }
759
760             image->comps = new_comps;
761
762             if (image->numcomps == 2) {
763                 image->comps[3] = image->comps[1];
764             }
765
766             image->comps[1] = image->comps[0];
767             image->comps[2] = image->comps[0];
768
769             image->comps[1].data = g;
770             image->comps[2].data = b;
771
772             image->numcomps += 2;
773
774             r = image->comps[0].data;
775
776             for (i = 0U; i < max; ++i) {
777                 *in++ = (unsigned short) * r++;
778             }
779             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
780
781             r = image->comps[0].data;
782             g = image->comps[1].data;
783             b = image->comps[2].data;
784
785             for (i = 0; i < max; ++i) {
786                 *r++ = (int) * out++;
787                 *g++ = (int) * out++;
788                 *b++ = (int) * out++;
789             }
790             r = g = b = NULL;
791             ok = 1;
792
793 fails3:
794             opj_image_data_free(inbuf);
795             opj_image_data_free(outbuf);
796             opj_image_data_free(g);
797             opj_image_data_free(b);
798         }
799     }/* if(image->numcomps > 2) */
800
801     cmsDeleteTransform(transform);
802
803 #ifdef OPJ_HAVE_LIBLCMS1
804     cmsCloseProfile(in_prof);
805     cmsCloseProfile(out_prof);
806 #endif
807     if (ok) {
808         image->color_space = new_space;
809     }
810 }/* color_apply_icc_profile() */
811
812 static int are_comps_same_dimensions(opj_image_t * image)
813 {
814     unsigned int i;
815     for (i = 1; i < image->numcomps; i++) {
816         if (image->comps[0].dx != image->comps[i].dx ||
817                 image->comps[0].dy != image->comps[i].dy) {
818             return OPJ_FALSE;
819         }
820     }
821     return OPJ_TRUE;
822 }
823
824 void color_cielab_to_rgb(opj_image_t *image)
825 {
826     int *row;
827     int enumcs, numcomps;
828     OPJ_COLOR_SPACE new_space;
829
830     numcomps = (int)image->numcomps;
831
832     if (numcomps != 3) {
833         fprintf(stderr, "%s:%d:\n\tnumcomps %d not handled. Quitting.\n",
834                 __FILE__, __LINE__, numcomps);
835         return;
836     }
837     if (!are_comps_same_dimensions(image)) {
838         fprintf(stderr,
839                 "%s:%d:\n\tcomponents are not all of the same dimension. Quitting.\n",
840                 __FILE__, __LINE__);
841         return;
842     }
843
844     row = (int*)image->icc_profile_buf;
845     enumcs = row[0];
846
847     if (enumcs == 14) { /* CIELab */
848         int *L, *a, *b, *red, *green, *blue;
849         int *src0, *src1, *src2, *dst0, *dst1, *dst2;
850         double rl, ol, ra, oa, rb, ob, prec0, prec1, prec2;
851         double minL, maxL, mina, maxa, minb, maxb;
852         unsigned int default_type;
853         unsigned int i, max;
854         cmsHPROFILE in, out;
855         cmsHTRANSFORM transform;
856         cmsUInt16Number RGB[3];
857         cmsCIELab Lab;
858
859         in = cmsCreateLab4Profile(NULL);
860         if (in == NULL) {
861             return;
862         }
863         out = cmsCreate_sRGBProfile();
864         if (out == NULL) {
865             cmsCloseProfile(in);
866             return;
867         }
868         transform = cmsCreateTransform(in, TYPE_Lab_DBL, out, TYPE_RGB_16,
869                                        INTENT_PERCEPTUAL, 0);
870
871 #ifdef OPJ_HAVE_LIBLCMS2
872         cmsCloseProfile(in);
873         cmsCloseProfile(out);
874 #endif
875         if (transform == NULL) {
876 #ifdef OPJ_HAVE_LIBLCMS1
877             cmsCloseProfile(in);
878             cmsCloseProfile(out);
879 #endif
880             return;
881         }
882         new_space = OPJ_CLRSPC_SRGB;
883
884         prec0 = (double)image->comps[0].prec;
885         prec1 = (double)image->comps[1].prec;
886         prec2 = (double)image->comps[2].prec;
887
888         default_type = (unsigned int)row[1];
889
890         if (default_type == 0x44454600) { /* DEF : default */
891             rl = 100;
892             ra = 170;
893             rb = 200;
894             ol = 0;
895             oa = pow(2, prec1 - 1);
896             ob = pow(2, prec2 - 2) +  pow(2, prec2 - 3);
897         } else {
898             rl = row[2];
899             ra = row[4];
900             rb = row[6];
901             ol = row[3];
902             oa = row[5];
903             ob = row[7];
904         }
905
906         L = src0 = image->comps[0].data;
907         a = src1 = image->comps[1].data;
908         b = src2 = image->comps[2].data;
909
910         max = image->comps[0].w * image->comps[0].h;
911
912         red = dst0 = (int*)opj_image_data_alloc(max * sizeof(int));
913         green = dst1 = (int*)opj_image_data_alloc(max * sizeof(int));
914         blue = dst2 = (int*)opj_image_data_alloc(max * sizeof(int));
915
916         if (red == NULL || green == NULL || blue == NULL) {
917             goto fails;
918         }
919
920         minL = -(rl * ol) / (pow(2, prec0) - 1);
921         maxL = minL + rl;
922
923         mina = -(ra * oa) / (pow(2, prec1) - 1);
924         maxa = mina + ra;
925
926         minb = -(rb * ob) / (pow(2, prec2) - 1);
927         maxb = minb + rb;
928
929         for (i = 0; i < max; ++i) {
930             Lab.L = minL + (double)(*L) * (maxL - minL) / (pow(2, prec0) - 1);
931             ++L;
932             Lab.a = mina + (double)(*a) * (maxa - mina) / (pow(2, prec1) - 1);
933             ++a;
934             Lab.b = minb + (double)(*b) * (maxb - minb) / (pow(2, prec2) - 1);
935             ++b;
936
937             cmsDoTransform(transform, &Lab, RGB, 1);
938
939             *red++ = RGB[0];
940             *green++ = RGB[1];
941             *blue++ = RGB[2];
942         }
943         cmsDeleteTransform(transform);
944 #ifdef OPJ_HAVE_LIBLCMS1
945         cmsCloseProfile(in);
946         cmsCloseProfile(out);
947 #endif
948         opj_image_data_free(src0);
949         image->comps[0].data = dst0;
950         opj_image_data_free(src1);
951         image->comps[1].data = dst1;
952         opj_image_data_free(src2);
953         image->comps[2].data = dst2;
954
955         image->color_space = new_space;
956         image->comps[0].prec = 16;
957         image->comps[1].prec = 16;
958         image->comps[2].prec = 16;
959
960         return;
961
962 fails:
963         cmsDeleteTransform(transform);
964 #ifdef OPJ_HAVE_LIBLCMS1
965         cmsCloseProfile(in);
966         cmsCloseProfile(out);
967 #endif
968         if (red) {
969             opj_image_data_free(red);
970         }
971         if (green) {
972             opj_image_data_free(green);
973         }
974         if (blue) {
975             opj_image_data_free(blue);
976         }
977         return;
978     }
979
980     fprintf(stderr, "%s:%d:\n\tenumCS %d not handled. Ignoring.\n", __FILE__,
981             __LINE__, enumcs);
982 }/* color_cielab_to_rgb() */
983
984 #endif /* OPJ_HAVE_LIBLCMS2 || OPJ_HAVE_LIBLCMS1 */
985
986 void color_cmyk_to_rgb(opj_image_t *image)
987 {
988     float C, M, Y, K;
989     float sC, sM, sY, sK;
990     unsigned int w, h, max, i;
991
992     w = image->comps[0].w;
993     h = image->comps[0].h;
994
995     if (
996         (image->numcomps < 4)
997         || (image->comps[0].dx != image->comps[1].dx) ||
998         (image->comps[0].dx != image->comps[2].dx) ||
999         (image->comps[0].dx != image->comps[3].dx)
1000         || (image->comps[0].dy != image->comps[1].dy) ||
1001         (image->comps[0].dy != image->comps[2].dy) ||
1002         (image->comps[0].dy != image->comps[3].dy)
1003     ) {
1004         fprintf(stderr, "%s:%d:color_cmyk_to_rgb\n\tCAN NOT CONVERT\n", __FILE__,
1005                 __LINE__);
1006         return;
1007     }
1008
1009     max = w * h;
1010
1011     sC = 1.0F / (float)((1 << image->comps[0].prec) - 1);
1012     sM = 1.0F / (float)((1 << image->comps[1].prec) - 1);
1013     sY = 1.0F / (float)((1 << image->comps[2].prec) - 1);
1014     sK = 1.0F / (float)((1 << image->comps[3].prec) - 1);
1015
1016     for (i = 0; i < max; ++i) {
1017         /* CMYK values from 0 to 1 */
1018         C = (float)(image->comps[0].data[i]) * sC;
1019         M = (float)(image->comps[1].data[i]) * sM;
1020         Y = (float)(image->comps[2].data[i]) * sY;
1021         K = (float)(image->comps[3].data[i]) * sK;
1022
1023         /* Invert all CMYK values */
1024         C = 1.0F - C;
1025         M = 1.0F - M;
1026         Y = 1.0F - Y;
1027         K = 1.0F - K;
1028
1029         /* CMYK -> RGB : RGB results from 0 to 255 */
1030         image->comps[0].data[i] = (int)(255.0F * C * K); /* R */
1031         image->comps[1].data[i] = (int)(255.0F * M * K); /* G */
1032         image->comps[2].data[i] = (int)(255.0F * Y * K); /* B */
1033     }
1034
1035     opj_image_data_free(image->comps[3].data);
1036     image->comps[3].data = NULL;
1037     image->comps[0].prec = 8;
1038     image->comps[1].prec = 8;
1039     image->comps[2].prec = 8;
1040     image->numcomps -= 1;
1041     image->color_space = OPJ_CLRSPC_SRGB;
1042
1043     for (i = 3; i < image->numcomps; ++i) {
1044         memcpy(&(image->comps[i]), &(image->comps[i + 1]), sizeof(image->comps[i]));
1045     }
1046
1047 }/* color_cmyk_to_rgb() */
1048
1049 /*
1050  * This code has been adopted from sjpx_openjpeg.c of ghostscript
1051  */
1052 void color_esycc_to_rgb(opj_image_t *image)
1053 {
1054     int y, cb, cr, sign1, sign2, val;
1055     unsigned int w, h, max, i;
1056     int flip_value = (1 << (image->comps[0].prec - 1));
1057     int max_value = (1 << image->comps[0].prec) - 1;
1058
1059     if (
1060         (image->numcomps < 3)
1061         || (image->comps[0].dx != image->comps[1].dx) ||
1062         (image->comps[0].dx != image->comps[2].dx)
1063         || (image->comps[0].dy != image->comps[1].dy) ||
1064         (image->comps[0].dy != image->comps[2].dy)
1065     ) {
1066         fprintf(stderr, "%s:%d:color_esycc_to_rgb\n\tCAN NOT CONVERT\n", __FILE__,
1067                 __LINE__);
1068         return;
1069     }
1070
1071     w = image->comps[0].w;
1072     h = image->comps[0].h;
1073
1074     sign1 = (int)image->comps[1].sgnd;
1075     sign2 = (int)image->comps[2].sgnd;
1076
1077     max = w * h;
1078
1079     for (i = 0; i < max; ++i) {
1080
1081         y = image->comps[0].data[i];
1082         cb = image->comps[1].data[i];
1083         cr = image->comps[2].data[i];
1084
1085         if (!sign1) {
1086             cb -= flip_value;
1087         }
1088         if (!sign2) {
1089             cr -= flip_value;
1090         }
1091
1092         val = (int)
1093               ((float)y - (float)0.0000368 * (float)cb
1094                + (float)1.40199 * (float)cr + (float)0.5);
1095
1096         if (val > max_value) {
1097             val = max_value;
1098         } else if (val < 0) {
1099             val = 0;
1100         }
1101         image->comps[0].data[i] = val;
1102
1103         val = (int)
1104               ((float)1.0003 * (float)y - (float)0.344125 * (float)cb
1105                - (float)0.7141128 * (float)cr + (float)0.5);
1106
1107         if (val > max_value) {
1108             val = max_value;
1109         } else if (val < 0) {
1110             val = 0;
1111         }
1112         image->comps[1].data[i] = val;
1113
1114         val = (int)
1115               ((float)0.999823 * (float)y + (float)1.77204 * (float)cb
1116                - (float)0.000008 * (float)cr + (float)0.5);
1117
1118         if (val > max_value) {
1119             val = max_value;
1120         } else if (val < 0) {
1121             val = 0;
1122         }
1123         image->comps[2].data[i] = val;
1124     }
1125     image->color_space = OPJ_CLRSPC_SRGB;
1126
1127 }/* color_esycc_to_rgb() */