Complementary fix to previous commit
[openjpeg.git] / src / bin / common / color.c
1 /*
2  * The copyright in this software is being made available under the 2-clauses
3  * BSD License, included below. This software may be subject to other third
4  * party and contributor rights, including patent rights, and no such rights
5  * are granted under this license.
6  *
7  * Copyright (c) 2002-2014, Universite catholique de Louvain (UCL), Belgium
8  * Copyright (c) 2002-2014, Professor Benoit Macq
9  * Copyright (c) 2001-2003, David Janssens
10  * Copyright (c) 2002-2003, Yannick Verschueren
11  * Copyright (c) 2003-2007, Francois-Olivier Devaux
12  * Copyright (c) 2003-2014, Antonin Descampe
13  * Copyright (c) 2005, Herve Drolon, FreeImage Team
14  * All rights reserved.
15  *
16  * Redistribution and use in source and binary forms, with or without
17  * modification, are permitted provided that the following conditions
18  * are met:
19  * 1. Redistributions of source code must retain the above copyright
20  *    notice, this list of conditions and the following disclaimer.
21  * 2. Redistributions in binary form must reproduce the above copyright
22  *    notice, this list of conditions and the following disclaimer in the
23  *    documentation and/or other materials provided with the distribution.
24  *
25  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS `AS IS'
26  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
27  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
28  * ARE DISCLAIMED.  IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
29  * LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
30  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
31  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
32  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
33  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
34  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
35  * POSSIBILITY OF SUCH DAMAGE.
36  */
37
38 #include <stdio.h>
39 #include <string.h>
40 #include <stdlib.h>
41 #include <math.h>
42 #include <assert.h>
43
44 #include "opj_apps_config.h"
45 #include "openjpeg.h"
46 #include "color.h"
47
48 #ifdef OPJ_HAVE_LIBLCMS2
49 #include <lcms2.h>
50 #endif
51 #ifdef OPJ_HAVE_LIBLCMS1
52 #include <lcms.h>
53 #endif
54
55 #ifdef OPJ_USE_LEGACY
56 #define OPJ_CLRSPC_GRAY CLRSPC_GRAY
57 #define OPJ_CLRSPC_SRGB CLRSPC_SRGB
58 #endif
59
60 /*--------------------------------------------------------
61 Matrix for sYCC, Amendment 1 to IEC 61966-2-1
62
63 Y :   0.299   0.587    0.114   :R
64 Cb:  -0.1687 -0.3312   0.5     :G
65 Cr:   0.5    -0.4187  -0.0812  :B
66
67 Inverse:
68
69 R: 1        -3.68213e-05    1.40199      :Y
70 G: 1.00003  -0.344125      -0.714128     :Cb - 2^(prec - 1)
71 B: 0.999823  1.77204       -8.04142e-06  :Cr - 2^(prec - 1)
72
73 -----------------------------------------------------------*/
74 static void sycc_to_rgb(int offset, int upb, int y, int cb, int cr,
75                         int *out_r, int *out_g, int *out_b)
76 {
77     int r, g, b;
78
79     cb -= offset;
80     cr -= offset;
81     r = y + (int)(1.402 * (float)cr);
82     if (r < 0) {
83         r = 0;
84     } else if (r > upb) {
85         r = upb;
86     }
87     *out_r = r;
88
89     g = y - (int)(0.344 * (float)cb + 0.714 * (float)cr);
90     if (g < 0) {
91         g = 0;
92     } else if (g > upb) {
93         g = upb;
94     }
95     *out_g = g;
96
97     b = y + (int)(1.772 * (float)cb);
98     if (b < 0) {
99         b = 0;
100     } else if (b > upb) {
101         b = upb;
102     }
103     *out_b = b;
104 }
105
106 static void sycc444_to_rgb(opj_image_t *img)
107 {
108     int *d0, *d1, *d2, *r, *g, *b;
109     const int *y, *cb, *cr;
110     size_t maxw, maxh, max, i;
111     int offset, upb;
112
113     upb = (int)img->comps[0].prec;
114     offset = 1 << (upb - 1);
115     upb = (1 << upb) - 1;
116
117     maxw = (size_t)img->comps[0].w;
118     maxh = (size_t)img->comps[0].h;
119     max = maxw * maxh;
120
121     y = img->comps[0].data;
122     cb = img->comps[1].data;
123     cr = img->comps[2].data;
124
125     d0 = r = (int*)opj_image_data_alloc(sizeof(int) * max);
126     d1 = g = (int*)opj_image_data_alloc(sizeof(int) * max);
127     d2 = b = (int*)opj_image_data_alloc(sizeof(int) * max);
128
129     if (r == NULL || g == NULL || b == NULL) {
130         goto fails;
131     }
132
133     for (i = 0U; i < max; ++i) {
134         sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
135         ++y;
136         ++cb;
137         ++cr;
138         ++r;
139         ++g;
140         ++b;
141     }
142     opj_image_data_free(img->comps[0].data);
143     img->comps[0].data = d0;
144     opj_image_data_free(img->comps[1].data);
145     img->comps[1].data = d1;
146     opj_image_data_free(img->comps[2].data);
147     img->comps[2].data = d2;
148     img->color_space = OPJ_CLRSPC_SRGB;
149     return;
150
151 fails:
152     opj_image_data_free(r);
153     opj_image_data_free(g);
154     opj_image_data_free(b);
155 }/* sycc444_to_rgb() */
156
157 static void sycc422_to_rgb(opj_image_t *img)
158 {
159     int *d0, *d1, *d2, *r, *g, *b;
160     const int *y, *cb, *cr;
161     size_t maxw, maxh, max, offx, loopmaxw;
162     int offset, upb;
163     size_t i;
164
165     upb = (int)img->comps[0].prec;
166     offset = 1 << (upb - 1);
167     upb = (1 << upb) - 1;
168
169     maxw = (size_t)img->comps[0].w;
170     maxh = (size_t)img->comps[0].h;
171     max = maxw * maxh;
172
173     y = img->comps[0].data;
174     cb = img->comps[1].data;
175     cr = img->comps[2].data;
176
177     d0 = r = (int*)opj_image_data_alloc(sizeof(int) * max);
178     d1 = g = (int*)opj_image_data_alloc(sizeof(int) * max);
179     d2 = b = (int*)opj_image_data_alloc(sizeof(int) * max);
180
181     if (r == NULL || g == NULL || b == NULL) {
182         goto fails;
183     }
184
185     /* if img->x0 is odd, then first column shall use Cb/Cr = 0 */
186     offx = img->x0 & 1U;
187     loopmaxw = maxw - offx;
188
189     for (i = 0U; i < maxh; ++i) {
190         size_t j;
191
192         if (offx > 0U) {
193             sycc_to_rgb(offset, upb, *y, 0, 0, r, g, b);
194             ++y;
195             ++r;
196             ++g;
197             ++b;
198         }
199
200         for (j = 0U; j < (loopmaxw & ~(size_t)1U); j += 2U) {
201             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
202             ++y;
203             ++r;
204             ++g;
205             ++b;
206             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
207             ++y;
208             ++r;
209             ++g;
210             ++b;
211             ++cb;
212             ++cr;
213         }
214         if (j < loopmaxw) {
215             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
216             ++y;
217             ++r;
218             ++g;
219             ++b;
220             ++cb;
221             ++cr;
222         }
223     }
224
225     opj_image_data_free(img->comps[0].data);
226     img->comps[0].data = d0;
227     opj_image_data_free(img->comps[1].data);
228     img->comps[1].data = d1;
229     opj_image_data_free(img->comps[2].data);
230     img->comps[2].data = d2;
231
232     img->comps[1].w = img->comps[2].w = img->comps[0].w;
233     img->comps[1].h = img->comps[2].h = img->comps[0].h;
234     img->comps[1].dx = img->comps[2].dx = img->comps[0].dx;
235     img->comps[1].dy = img->comps[2].dy = img->comps[0].dy;
236     img->color_space = OPJ_CLRSPC_SRGB;
237     return;
238
239 fails:
240     opj_image_data_free(r);
241     opj_image_data_free(g);
242     opj_image_data_free(b);
243 }/* sycc422_to_rgb() */
244
245 static void sycc420_to_rgb(opj_image_t *img)
246 {
247     int *d0, *d1, *d2, *r, *g, *b, *nr, *ng, *nb;
248     const int *y, *cb, *cr, *ny;
249     size_t maxw, maxh, max, offx, loopmaxw, offy, loopmaxh;
250     int offset, upb;
251     size_t i;
252
253     upb = (int)img->comps[0].prec;
254     offset = 1 << (upb - 1);
255     upb = (1 << upb) - 1;
256
257     maxw = (size_t)img->comps[0].w;
258     maxh = (size_t)img->comps[0].h;
259     max = maxw * maxh;
260
261     y = img->comps[0].data;
262     cb = img->comps[1].data;
263     cr = img->comps[2].data;
264
265     d0 = r = (int*)opj_image_data_alloc(sizeof(int) * max);
266     d1 = g = (int*)opj_image_data_alloc(sizeof(int) * max);
267     d2 = b = (int*)opj_image_data_alloc(sizeof(int) * max);
268
269     if (r == NULL || g == NULL || b == NULL) {
270         goto fails;
271     }
272
273     /* if img->x0 is odd, then first column shall use Cb/Cr = 0 */
274     offx = img->x0 & 1U;
275     loopmaxw = maxw - offx;
276     /* if img->y0 is odd, then first line shall use Cb/Cr = 0 */
277     offy = img->y0 & 1U;
278     loopmaxh = maxh - offy;
279
280     if (offy > 0U) {
281         size_t j;
282
283         for (j = 0; j < maxw; ++j) {
284             sycc_to_rgb(offset, upb, *y, 0, 0, r, g, b);
285             ++y;
286             ++r;
287             ++g;
288             ++b;
289         }
290     }
291
292     for (i = 0U; i < (loopmaxh & ~(size_t)1U); i += 2U) {
293         size_t j;
294
295         ny = y + maxw;
296         nr = r + maxw;
297         ng = g + maxw;
298         nb = b + maxw;
299
300         if (offx > 0U) {
301             sycc_to_rgb(offset, upb, *y, 0, 0, r, g, b);
302             ++y;
303             ++r;
304             ++g;
305             ++b;
306             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
307             ++ny;
308             ++nr;
309             ++ng;
310             ++nb;
311         }
312
313         for (j = 0; j < (loopmaxw & ~(size_t)1U); j += 2U) {
314             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
315             ++y;
316             ++r;
317             ++g;
318             ++b;
319             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
320             ++y;
321             ++r;
322             ++g;
323             ++b;
324
325             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
326             ++ny;
327             ++nr;
328             ++ng;
329             ++nb;
330             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
331             ++ny;
332             ++nr;
333             ++ng;
334             ++nb;
335             ++cb;
336             ++cr;
337         }
338         if (j < loopmaxw) {
339             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
340             ++y;
341             ++r;
342             ++g;
343             ++b;
344
345             sycc_to_rgb(offset, upb, *ny, *cb, *cr, nr, ng, nb);
346             ++ny;
347             ++nr;
348             ++ng;
349             ++nb;
350             ++cb;
351             ++cr;
352         }
353         y += maxw;
354         r += maxw;
355         g += maxw;
356         b += maxw;
357     }
358     if (i < loopmaxh) {
359         size_t j;
360
361         for (j = 0U; j < (maxw & ~(size_t)1U); j += 2U) {
362             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
363
364             ++y;
365             ++r;
366             ++g;
367             ++b;
368
369             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
370
371             ++y;
372             ++r;
373             ++g;
374             ++b;
375             ++cb;
376             ++cr;
377         }
378         if (j < maxw) {
379             sycc_to_rgb(offset, upb, *y, *cb, *cr, r, g, b);
380         }
381     }
382
383     opj_image_data_free(img->comps[0].data);
384     img->comps[0].data = d0;
385     opj_image_data_free(img->comps[1].data);
386     img->comps[1].data = d1;
387     opj_image_data_free(img->comps[2].data);
388     img->comps[2].data = d2;
389
390     img->comps[1].w = img->comps[2].w = img->comps[0].w;
391     img->comps[1].h = img->comps[2].h = img->comps[0].h;
392     img->comps[1].dx = img->comps[2].dx = img->comps[0].dx;
393     img->comps[1].dy = img->comps[2].dy = img->comps[0].dy;
394     img->color_space = OPJ_CLRSPC_SRGB;
395     return;
396
397 fails:
398     opj_image_data_free(r);
399     opj_image_data_free(g);
400     opj_image_data_free(b);
401 }/* sycc420_to_rgb() */
402
403 void color_sycc_to_rgb(opj_image_t *img)
404 {
405     if (img->numcomps < 3) {
406         img->color_space = OPJ_CLRSPC_GRAY;
407         return;
408     }
409
410     if ((img->comps[0].dx == 1)
411             && (img->comps[1].dx == 2)
412             && (img->comps[2].dx == 2)
413             && (img->comps[0].dy == 1)
414             && (img->comps[1].dy == 2)
415             && (img->comps[2].dy == 2)) { /* horizontal and vertical sub-sample */
416         sycc420_to_rgb(img);
417     } else if ((img->comps[0].dx == 1)
418                && (img->comps[1].dx == 2)
419                && (img->comps[2].dx == 2)
420                && (img->comps[0].dy == 1)
421                && (img->comps[1].dy == 1)
422                && (img->comps[2].dy == 1)) { /* horizontal sub-sample only */
423         sycc422_to_rgb(img);
424     } else if ((img->comps[0].dx == 1)
425                && (img->comps[1].dx == 1)
426                && (img->comps[2].dx == 1)
427                && (img->comps[0].dy == 1)
428                && (img->comps[1].dy == 1)
429                && (img->comps[2].dy == 1)) { /* no sub-sample */
430         sycc444_to_rgb(img);
431     } else {
432         fprintf(stderr, "%s:%d:color_sycc_to_rgb\n\tCAN NOT CONVERT\n", __FILE__,
433                 __LINE__);
434         return;
435     }
436 }/* color_sycc_to_rgb() */
437
438 #if defined(OPJ_HAVE_LIBLCMS2) || defined(OPJ_HAVE_LIBLCMS1)
439
440 #ifdef OPJ_HAVE_LIBLCMS1
441 /* Bob Friesenhahn proposed:*/
442 #define cmsSigXYZData   icSigXYZData
443 #define cmsSigLabData   icSigLabData
444 #define cmsSigCmykData  icSigCmykData
445 #define cmsSigYCbCrData icSigYCbCrData
446 #define cmsSigLuvData   icSigLuvData
447 #define cmsSigGrayData  icSigGrayData
448 #define cmsSigRgbData   icSigRgbData
449 #define cmsUInt32Number DWORD
450
451 #define cmsColorSpaceSignature icColorSpaceSignature
452 #define cmsGetHeaderRenderingIntent cmsTakeRenderingIntent
453
454 #endif /* OPJ_HAVE_LIBLCMS1 */
455
456 /*#define DEBUG_PROFILE*/
457 void color_apply_icc_profile(opj_image_t *image)
458 {
459     cmsHPROFILE in_prof, out_prof;
460     cmsHTRANSFORM transform;
461     cmsColorSpaceSignature in_space, out_space;
462     cmsUInt32Number intent, in_type, out_type;
463     int *r, *g, *b;
464     size_t nr_samples, i, max, max_w, max_h;
465     int prec, ok = 0;
466     OPJ_COLOR_SPACE new_space;
467
468     in_prof = cmsOpenProfileFromMem(image->icc_profile_buf, image->icc_profile_len);
469 #ifdef DEBUG_PROFILE
470     FILE *icm = fopen("debug.icm", "wb");
471     fwrite(image->icc_profile_buf, 1, image->icc_profile_len, icm);
472     fclose(icm);
473 #endif
474
475     if (in_prof == NULL) {
476         return;
477     }
478
479     in_space = cmsGetPCS(in_prof);
480     out_space = cmsGetColorSpace(in_prof);
481     intent = cmsGetHeaderRenderingIntent(in_prof);
482
483
484     max_w = image->comps[0].w;
485     max_h = image->comps[0].h;
486     prec = (int)image->comps[0].prec;
487
488     if (out_space == cmsSigRgbData) { /* enumCS 16 */
489         if (prec <= 8) {
490             in_type = TYPE_RGB_8;
491             out_type = TYPE_RGB_8;
492         } else {
493             in_type = TYPE_RGB_16;
494             out_type = TYPE_RGB_16;
495         }
496         out_prof = cmsCreate_sRGBProfile();
497         new_space = OPJ_CLRSPC_SRGB;
498     } else if (out_space == cmsSigGrayData) { /* enumCS 17 */
499         in_type = TYPE_GRAY_8;
500         out_type = TYPE_RGB_8;
501         out_prof = cmsCreate_sRGBProfile();
502         new_space = OPJ_CLRSPC_SRGB;
503     } else if (out_space == cmsSigYCbCrData) { /* enumCS 18 */
504         in_type = TYPE_YCbCr_16;
505         out_type = TYPE_RGB_16;
506         out_prof = cmsCreate_sRGBProfile();
507         new_space = OPJ_CLRSPC_SRGB;
508     } else {
509 #ifdef DEBUG_PROFILE
510         fprintf(stderr, "%s:%d: color_apply_icc_profile\n\tICC Profile has unknown "
511                 "output colorspace(%#x)(%c%c%c%c)\n\tICC Profile ignored.\n",
512                 __FILE__, __LINE__, out_space,
513                 (out_space >> 24) & 0xff, (out_space >> 16) & 0xff,
514                 (out_space >> 8) & 0xff, out_space & 0xff);
515 #endif
516         cmsCloseProfile(in_prof);
517
518         return;
519     }
520     if (out_prof == NULL) {
521         cmsCloseProfile(in_prof);
522         return;
523     }
524
525 #ifdef DEBUG_PROFILE
526     fprintf(stderr,
527             "%s:%d:color_apply_icc_profile\n\tchannels(%d) prec(%d) w(%d) h(%d)"
528             "\n\tprofile: in(%p) out(%p)\n", __FILE__, __LINE__, image->numcomps, prec,
529             max_w, max_h, (void*)in_prof, (void*)out_prof);
530
531     fprintf(stderr, "\trender_intent (%u)\n\t"
532             "color_space: in(%#x)(%c%c%c%c)   out:(%#x)(%c%c%c%c)\n\t"
533             "       type: in(%u)              out:(%u)\n",
534             intent,
535             in_space,
536             (in_space >> 24) & 0xff, (in_space >> 16) & 0xff,
537             (in_space >> 8) & 0xff, in_space & 0xff,
538
539             out_space,
540             (out_space >> 24) & 0xff, (out_space >> 16) & 0xff,
541             (out_space >> 8) & 0xff, out_space & 0xff,
542
543             in_type, out_type
544            );
545 #else
546     (void)prec;
547     (void)in_space;
548 #endif /* DEBUG_PROFILE */
549
550     transform = cmsCreateTransform(in_prof, in_type, out_prof, out_type, intent, 0);
551
552 #ifdef OPJ_HAVE_LIBLCMS2
553     /* Possible for: LCMS_VERSION >= 2000 :*/
554     cmsCloseProfile(in_prof);
555     cmsCloseProfile(out_prof);
556 #endif
557
558     if (transform == NULL) {
559 #ifdef DEBUG_PROFILE
560         fprintf(stderr, "%s:%d:color_apply_icc_profile\n\tcmsCreateTransform failed. "
561                 "ICC Profile ignored.\n", __FILE__, __LINE__);
562 #endif
563
564 #ifdef OPJ_HAVE_LIBLCMS1
565         cmsCloseProfile(in_prof);
566         cmsCloseProfile(out_prof);
567 #endif
568         return;
569     }
570
571     if (image->numcomps > 2) { /* RGB, RGBA */
572         if (prec <= 8) {
573             unsigned char *inbuf, *outbuf, *in, *out;
574
575             max = max_w * max_h;
576             nr_samples = (size_t)(max * 3U * sizeof(unsigned char));
577             in = inbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
578             out = outbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
579
580             if (inbuf == NULL || outbuf == NULL) {
581                 goto fails0;
582             }
583
584             r = image->comps[0].data;
585             g = image->comps[1].data;
586             b = image->comps[2].data;
587
588             for (i = 0U; i < max; ++i) {
589                 *in++ = (unsigned char) * r++;
590                 *in++ = (unsigned char) * g++;
591                 *in++ = (unsigned char) * b++;
592             }
593
594             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
595
596             r = image->comps[0].data;
597             g = image->comps[1].data;
598             b = image->comps[2].data;
599
600             for (i = 0U; i < max; ++i) {
601                 *r++ = (int) * out++;
602                 *g++ = (int) * out++;
603                 *b++ = (int) * out++;
604             }
605             ok = 1;
606
607 fails0:
608             opj_image_data_free(inbuf);
609             opj_image_data_free(outbuf);
610         } else { /* prec > 8 */
611             unsigned short *inbuf, *outbuf, *in, *out;
612
613             max = max_w * max_h;
614             nr_samples = (size_t)(max * 3U * sizeof(unsigned short));
615             in = inbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
616             out = outbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
617
618             if (inbuf == NULL || outbuf == NULL) {
619                 goto fails1;
620             }
621
622             r = image->comps[0].data;
623             g = image->comps[1].data;
624             b = image->comps[2].data;
625
626             for (i = 0U  ; i < max; ++i) {
627                 *in++ = (unsigned short) * r++;
628                 *in++ = (unsigned short) * g++;
629                 *in++ = (unsigned short) * b++;
630             }
631
632             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
633
634             r = image->comps[0].data;
635             g = image->comps[1].data;
636             b = image->comps[2].data;
637
638             for (i = 0; i < max; ++i) {
639                 *r++ = (int) * out++;
640                 *g++ = (int) * out++;
641                 *b++ = (int) * out++;
642             }
643             ok = 1;
644
645 fails1:
646             opj_image_data_free(inbuf);
647             opj_image_data_free(outbuf);
648         }
649     } else { /* image->numcomps <= 2 : GRAY, GRAYA */
650         if (prec <= 8) {
651             unsigned char *in, *inbuf, *out, *outbuf;
652             opj_image_comp_t *new_comps;
653
654             max = max_w * max_h;
655             nr_samples = (size_t)(max * 3 * sizeof(unsigned char));
656             in = inbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
657             out = outbuf = (unsigned char*)opj_image_data_alloc(nr_samples);
658             g = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
659             b = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
660
661             if (inbuf == NULL || outbuf == NULL || g == NULL || b == NULL) {
662                 goto fails2;
663             }
664
665             new_comps = (opj_image_comp_t*)realloc(image->comps,
666                                                    (image->numcomps + 2) * sizeof(opj_image_comp_t));
667
668             if (new_comps == NULL) {
669                 goto fails2;
670             }
671
672             image->comps = new_comps;
673
674             if (image->numcomps == 2) {
675                 image->comps[3] = image->comps[1];
676             }
677
678             image->comps[1] = image->comps[0];
679             image->comps[2] = image->comps[0];
680
681             image->comps[1].data = g;
682             image->comps[2].data = b;
683
684             image->numcomps += 2;
685
686             r = image->comps[0].data;
687
688             for (i = 0U; i < max; ++i) {
689                 *in++ = (unsigned char) * r++;
690             }
691             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
692
693             r = image->comps[0].data;
694             g = image->comps[1].data;
695             b = image->comps[2].data;
696
697             for (i = 0U; i < max; ++i) {
698                 *r++ = (int) * out++;
699                 *g++ = (int) * out++;
700                 *b++ = (int) * out++;
701             }
702             r = g = b = NULL;
703             ok = 1;
704
705 fails2:
706             opj_image_data_free(inbuf);
707             opj_image_data_free(outbuf);
708             opj_image_data_free(g);
709             opj_image_data_free(b);
710         } else { /* prec > 8 */
711             unsigned short *in, *inbuf, *out, *outbuf;
712             opj_image_comp_t *new_comps;
713
714             max = max_w * max_h;
715             nr_samples = (size_t)(max * 3U * sizeof(unsigned short));
716             in = inbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
717             out = outbuf = (unsigned short*)opj_image_data_alloc(nr_samples);
718             g = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
719             b = (int*)opj_image_data_alloc((size_t)max * sizeof(int));
720
721             if (inbuf == NULL || outbuf == NULL || g == NULL || b == NULL) {
722                 goto fails3;
723             }
724
725             new_comps = (opj_image_comp_t*)realloc(image->comps,
726                                                    (image->numcomps + 2) * sizeof(opj_image_comp_t));
727
728             if (new_comps == NULL) {
729                 goto fails3;
730             }
731
732             image->comps = new_comps;
733
734             if (image->numcomps == 2) {
735                 image->comps[3] = image->comps[1];
736             }
737
738             image->comps[1] = image->comps[0];
739             image->comps[2] = image->comps[0];
740
741             image->comps[1].data = g;
742             image->comps[2].data = b;
743
744             image->numcomps += 2;
745
746             r = image->comps[0].data;
747
748             for (i = 0U; i < max; ++i) {
749                 *in++ = (unsigned short) * r++;
750             }
751             cmsDoTransform(transform, inbuf, outbuf, (cmsUInt32Number)max);
752
753             r = image->comps[0].data;
754             g = image->comps[1].data;
755             b = image->comps[2].data;
756
757             for (i = 0; i < max; ++i) {
758                 *r++ = (int) * out++;
759                 *g++ = (int) * out++;
760                 *b++ = (int) * out++;
761             }
762             r = g = b = NULL;
763             ok = 1;
764
765 fails3:
766             opj_image_data_free(inbuf);
767             opj_image_data_free(outbuf);
768             opj_image_data_free(g);
769             opj_image_data_free(b);
770         }
771     }/* if(image->numcomps > 2) */
772
773     cmsDeleteTransform(transform);
774
775 #ifdef OPJ_HAVE_LIBLCMS1
776     cmsCloseProfile(in_prof);
777     cmsCloseProfile(out_prof);
778 #endif
779     if (ok) {
780         image->color_space = new_space;
781     }
782 }/* color_apply_icc_profile() */
783
784 static int are_comps_same_dimensions(opj_image_t * image)
785 {
786     unsigned int i;
787     for (i = 1; i < image->numcomps; i++) {
788         if (image->comps[0].dx != image->comps[i].dx ||
789                 image->comps[0].dy != image->comps[i].dy) {
790             return OPJ_FALSE;
791         }
792     }
793     return OPJ_TRUE;
794 }
795
796 void color_cielab_to_rgb(opj_image_t *image)
797 {
798     int *row;
799     int enumcs, numcomps;
800     OPJ_COLOR_SPACE new_space;
801
802     numcomps = (int)image->numcomps;
803
804     if (numcomps != 3) {
805         fprintf(stderr, "%s:%d:\n\tnumcomps %d not handled. Quitting.\n",
806                 __FILE__, __LINE__, numcomps);
807         return;
808     }
809     if (!are_comps_same_dimensions(image)) {
810         fprintf(stderr,
811                 "%s:%d:\n\tcomponents are not all of the same dimension. Quitting.\n",
812                 __FILE__, __LINE__);
813         return;
814     }
815
816     row = (int*)image->icc_profile_buf;
817     enumcs = row[0];
818
819     if (enumcs == 14) { /* CIELab */
820         int *L, *a, *b, *red, *green, *blue;
821         int *src0, *src1, *src2, *dst0, *dst1, *dst2;
822         double rl, ol, ra, oa, rb, ob, prec0, prec1, prec2;
823         double minL, maxL, mina, maxa, minb, maxb;
824         unsigned int default_type;
825         unsigned int i, max;
826         cmsHPROFILE in, out;
827         cmsHTRANSFORM transform;
828         cmsUInt16Number RGB[3];
829         cmsCIELab Lab;
830
831         in = cmsCreateLab4Profile(NULL);
832         if (in == NULL) {
833             return;
834         }
835         out = cmsCreate_sRGBProfile();
836         if (out == NULL) {
837             cmsCloseProfile(in);
838             return;
839         }
840         transform = cmsCreateTransform(in, TYPE_Lab_DBL, out, TYPE_RGB_16,
841                                        INTENT_PERCEPTUAL, 0);
842
843 #ifdef OPJ_HAVE_LIBLCMS2
844         cmsCloseProfile(in);
845         cmsCloseProfile(out);
846 #endif
847         if (transform == NULL) {
848 #ifdef OPJ_HAVE_LIBLCMS1
849             cmsCloseProfile(in);
850             cmsCloseProfile(out);
851 #endif
852             return;
853         }
854         new_space = OPJ_CLRSPC_SRGB;
855
856         prec0 = (double)image->comps[0].prec;
857         prec1 = (double)image->comps[1].prec;
858         prec2 = (double)image->comps[2].prec;
859
860         default_type = (unsigned int)row[1];
861
862         if (default_type == 0x44454600) { /* DEF : default */
863             rl = 100;
864             ra = 170;
865             rb = 200;
866             ol = 0;
867             oa = pow(2, prec1 - 1);
868             ob = pow(2, prec2 - 2) +  pow(2, prec2 - 3);
869         } else {
870             rl = row[2];
871             ra = row[4];
872             rb = row[6];
873             ol = row[3];
874             oa = row[5];
875             ob = row[7];
876         }
877
878         L = src0 = image->comps[0].data;
879         a = src1 = image->comps[1].data;
880         b = src2 = image->comps[2].data;
881
882         max = image->comps[0].w * image->comps[0].h;
883
884         red = dst0 = (int*)opj_image_data_alloc(max * sizeof(int));
885         green = dst1 = (int*)opj_image_data_alloc(max * sizeof(int));
886         blue = dst2 = (int*)opj_image_data_alloc(max * sizeof(int));
887
888         if (red == NULL || green == NULL || blue == NULL) {
889             goto fails;
890         }
891
892         minL = -(rl * ol) / (pow(2, prec0) - 1);
893         maxL = minL + rl;
894
895         mina = -(ra * oa) / (pow(2, prec1) - 1);
896         maxa = mina + ra;
897
898         minb = -(rb * ob) / (pow(2, prec2) - 1);
899         maxb = minb + rb;
900
901         for (i = 0; i < max; ++i) {
902             Lab.L = minL + (double)(*L) * (maxL - minL) / (pow(2, prec0) - 1);
903             ++L;
904             Lab.a = mina + (double)(*a) * (maxa - mina) / (pow(2, prec1) - 1);
905             ++a;
906             Lab.b = minb + (double)(*b) * (maxb - minb) / (pow(2, prec2) - 1);
907             ++b;
908
909             cmsDoTransform(transform, &Lab, RGB, 1);
910
911             *red++ = RGB[0];
912             *green++ = RGB[1];
913             *blue++ = RGB[2];
914         }
915         cmsDeleteTransform(transform);
916 #ifdef OPJ_HAVE_LIBLCMS1
917         cmsCloseProfile(in);
918         cmsCloseProfile(out);
919 #endif
920         opj_image_data_free(src0);
921         image->comps[0].data = dst0;
922         opj_image_data_free(src1);
923         image->comps[1].data = dst1;
924         opj_image_data_free(src2);
925         image->comps[2].data = dst2;
926
927         image->color_space = new_space;
928         image->comps[0].prec = 16;
929         image->comps[1].prec = 16;
930         image->comps[2].prec = 16;
931
932         return;
933
934 fails:
935         cmsDeleteTransform(transform);
936 #ifdef OPJ_HAVE_LIBLCMS1
937         cmsCloseProfile(in);
938         cmsCloseProfile(out);
939 #endif
940         if (red) {
941             opj_image_data_free(red);
942         }
943         if (green) {
944             opj_image_data_free(green);
945         }
946         if (blue) {
947             opj_image_data_free(blue);
948         }
949         return;
950     }
951
952     fprintf(stderr, "%s:%d:\n\tenumCS %d not handled. Ignoring.\n", __FILE__,
953             __LINE__, enumcs);
954 }/* color_cielab_to_rgb() */
955
956 #endif /* OPJ_HAVE_LIBLCMS2 || OPJ_HAVE_LIBLCMS1 */
957
958 void color_cmyk_to_rgb(opj_image_t *image)
959 {
960     float C, M, Y, K;
961     float sC, sM, sY, sK;
962     unsigned int w, h, max, i;
963
964     w = image->comps[0].w;
965     h = image->comps[0].h;
966
967     if (
968         (image->numcomps < 4)
969         || (image->comps[0].dx != image->comps[1].dx) ||
970         (image->comps[0].dx != image->comps[2].dx) ||
971         (image->comps[0].dx != image->comps[3].dx)
972         || (image->comps[0].dy != image->comps[1].dy) ||
973         (image->comps[0].dy != image->comps[2].dy) ||
974         (image->comps[0].dy != image->comps[3].dy)
975     ) {
976         fprintf(stderr, "%s:%d:color_cmyk_to_rgb\n\tCAN NOT CONVERT\n", __FILE__,
977                 __LINE__);
978         return;
979     }
980
981     max = w * h;
982
983     sC = 1.0F / (float)((1 << image->comps[0].prec) - 1);
984     sM = 1.0F / (float)((1 << image->comps[1].prec) - 1);
985     sY = 1.0F / (float)((1 << image->comps[2].prec) - 1);
986     sK = 1.0F / (float)((1 << image->comps[3].prec) - 1);
987
988     for (i = 0; i < max; ++i) {
989         /* CMYK values from 0 to 1 */
990         C = (float)(image->comps[0].data[i]) * sC;
991         M = (float)(image->comps[1].data[i]) * sM;
992         Y = (float)(image->comps[2].data[i]) * sY;
993         K = (float)(image->comps[3].data[i]) * sK;
994
995         /* Invert all CMYK values */
996         C = 1.0F - C;
997         M = 1.0F - M;
998         Y = 1.0F - Y;
999         K = 1.0F - K;
1000
1001         /* CMYK -> RGB : RGB results from 0 to 255 */
1002         image->comps[0].data[i] = (int)(255.0F * C * K); /* R */
1003         image->comps[1].data[i] = (int)(255.0F * M * K); /* G */
1004         image->comps[2].data[i] = (int)(255.0F * Y * K); /* B */
1005     }
1006
1007     opj_image_data_free(image->comps[3].data);
1008     image->comps[3].data = NULL;
1009     image->comps[0].prec = 8;
1010     image->comps[1].prec = 8;
1011     image->comps[2].prec = 8;
1012     image->numcomps -= 1;
1013     image->color_space = OPJ_CLRSPC_SRGB;
1014
1015     for (i = 3; i < image->numcomps; ++i) {
1016         memcpy(&(image->comps[i]), &(image->comps[i + 1]), sizeof(image->comps[i]));
1017     }
1018
1019 }/* color_cmyk_to_rgb() */
1020
1021 /*
1022  * This code has been adopted from sjpx_openjpeg.c of ghostscript
1023  */
1024 void color_esycc_to_rgb(opj_image_t *image)
1025 {
1026     int y, cb, cr, sign1, sign2, val;
1027     unsigned int w, h, max, i;
1028     int flip_value = (1 << (image->comps[0].prec - 1));
1029     int max_value = (1 << image->comps[0].prec) - 1;
1030
1031     if (
1032         (image->numcomps < 3)
1033         || (image->comps[0].dx != image->comps[1].dx) ||
1034         (image->comps[0].dx != image->comps[2].dx)
1035         || (image->comps[0].dy != image->comps[1].dy) ||
1036         (image->comps[0].dy != image->comps[2].dy)
1037     ) {
1038         fprintf(stderr, "%s:%d:color_esycc_to_rgb\n\tCAN NOT CONVERT\n", __FILE__,
1039                 __LINE__);
1040         return;
1041     }
1042
1043     w = image->comps[0].w;
1044     h = image->comps[0].h;
1045
1046     sign1 = (int)image->comps[1].sgnd;
1047     sign2 = (int)image->comps[2].sgnd;
1048
1049     max = w * h;
1050
1051     for (i = 0; i < max; ++i) {
1052
1053         y = image->comps[0].data[i];
1054         cb = image->comps[1].data[i];
1055         cr = image->comps[2].data[i];
1056
1057         if (!sign1) {
1058             cb -= flip_value;
1059         }
1060         if (!sign2) {
1061             cr -= flip_value;
1062         }
1063
1064         val = (int)
1065               ((float)y - (float)0.0000368 * (float)cb
1066                + (float)1.40199 * (float)cr + (float)0.5);
1067
1068         if (val > max_value) {
1069             val = max_value;
1070         } else if (val < 0) {
1071             val = 0;
1072         }
1073         image->comps[0].data[i] = val;
1074
1075         val = (int)
1076               ((float)1.0003 * (float)y - (float)0.344125 * (float)cb
1077                - (float)0.7141128 * (float)cr + (float)0.5);
1078
1079         if (val > max_value) {
1080             val = max_value;
1081         } else if (val < 0) {
1082             val = 0;
1083         }
1084         image->comps[1].data[i] = val;
1085
1086         val = (int)
1087               ((float)0.999823 * (float)y + (float)1.77204 * (float)cb
1088                - (float)0.000008 * (float)cr + (float)0.5);
1089
1090         if (val > max_value) {
1091             val = max_value;
1092         } else if (val < 0) {
1093             val = 0;
1094         }
1095         image->comps[2].data[i] = val;
1096     }
1097     image->color_space = OPJ_CLRSPC_SRGB;
1098
1099 }/* color_esycc_to_rgb() */