Tweaks to test setup; don't always compute coverage.
[libdcp.git] / src / rgb_xyz.cc
1 /*
2     Copyright (C) 2013-2014 Carl Hetherington <cth@carlh.net>
3
4     This program is free software; you can redistribute it and/or modify
5     it under the terms of the GNU General Public License as published by
6     the Free Software Foundation; either version 2 of the License, or
7     (at your option) any later version.
8
9     This program is distributed in the hope that it will be useful,
10     but WITHOUT ANY WARRANTY; without even the implied warranty of
11     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12     GNU General Public License for more details.
13
14     You should have received a copy of the GNU General Public License
15     along with this program; if not, write to the Free Software
16     Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
17
18 */
19
20 #include "rgb_xyz.h"
21 #include "argb_frame.h"
22 #include "xyz_frame.h"
23 #include "image.h"
24 #include "colour_matrix.h"
25 #include "colour_conversion.h"
26 #include "transfer_function.h"
27 #include "dcp_assert.h"
28 #include <cmath>
29
30 using std::min;
31 using std::max;
32 using boost::shared_ptr;
33 using namespace dcp;
34
35 #define DCI_COEFFICIENT (48.0 / 52.37)
36
37 /** Convert an openjpeg XYZ image to RGBA.
38  *  @param xyz_frame Frame in XYZ.
39  *  @return RGB image.
40  */
41 shared_ptr<ARGBFrame>
42 dcp::xyz_to_rgba (
43         boost::shared_ptr<const XYZFrame> xyz_frame,
44         ColourConversion const & conversion
45         )
46 {
47         int const max_colour = pow (2, 12) - 1;
48
49         struct {
50                 double x, y, z;
51         } s;
52         
53         struct {
54                 double r, g, b;
55         } d;
56         
57         int* xyz_x = xyz_frame->data (0);
58         int* xyz_y = xyz_frame->data (1);
59         int* xyz_z = xyz_frame->data (2);
60
61         shared_ptr<ARGBFrame> argb_frame (new ARGBFrame (xyz_frame->size ()));
62         uint8_t* argb = argb_frame->data ();
63         
64         double const * lut_in = conversion.in()->lut (16);
65         double const * lut_out = conversion.out()->lut (12);
66         boost::numeric::ublas::matrix<double> matrix = conversion.matrix ();
67
68         for (int y = 0; y < xyz_frame->size().height; ++y) {
69                 uint8_t* argb_line = argb;
70                 for (int x = 0; x < xyz_frame->size().width; ++x) {
71
72                         DCP_ASSERT (*xyz_x >= 0 && *xyz_y >= 0 && *xyz_z >= 0 && *xyz_x < 4096 && *xyz_y < 4096 && *xyz_z < 4096);
73                         
74                         /* In gamma LUT */
75                         s.x = lut_in[*xyz_x++];
76                         s.y = lut_in[*xyz_y++];
77                         s.z = lut_in[*xyz_z++];
78
79                         /* DCI companding */
80                         s.x /= DCI_COEFFICIENT;
81                         s.y /= DCI_COEFFICIENT;
82                         s.z /= DCI_COEFFICIENT;
83
84                         /* XYZ to RGB */
85                         d.r = ((s.x * matrix(0, 0)) + (s.y * matrix(0, 1)) + (s.z * matrix(0, 2)));
86                         d.g = ((s.x * matrix(1, 0)) + (s.y * matrix(1, 1)) + (s.z * matrix(1, 2)));
87                         d.b = ((s.x * matrix(2, 0)) + (s.y * matrix(2, 1)) + (s.z * matrix(2, 2)));
88                         
89                         d.r = min (d.r, 1.0);
90                         d.r = max (d.r, 0.0);
91                         
92                         d.g = min (d.g, 1.0);
93                         d.g = max (d.g, 0.0);
94                         
95                         d.b = min (d.b, 1.0);
96                         d.b = max (d.b, 0.0);
97                         
98                         /* Out gamma LUT */
99                         *argb_line++ = lut_out[int(rint(d.b * max_colour))] * 0xff;
100                         *argb_line++ = lut_out[int(rint(d.g * max_colour))] * 0xff;
101                         *argb_line++ = lut_out[int(rint(d.r * max_colour))] * 0xff;
102                         *argb_line++ = 0xff;
103                 }
104                 
105                 argb += argb_frame->stride ();
106         }
107
108         return argb_frame;
109 }
110
111 /** Convert an openjpeg XYZ image to RGB.
112  *  @param xyz_frame Frame in XYZ.
113  *  @param conversion Colour conversion to use.
114  *  @param buffer Buffer to write RGB data to; rgb will be packed RGB
115  *  16:16:16, 48bpp, 16R, 16G, 16B, with the 2-byte value for each
116  *  R/G/B component stored as little-endian; i.e. AV_PIX_FMT_RGB48LE.
117  */
118 void
119 dcp::xyz_to_rgb (
120         boost::shared_ptr<const XYZFrame> xyz_frame,
121         ColourConversion const & conversion,
122         uint16_t* buffer
123         )
124 {
125         struct {
126                 double x, y, z;
127         } s;
128         
129         struct {
130                 double r, g, b;
131         } d;
132
133         /* These should be 12-bit values from 0-4095 */
134         int* xyz_x = xyz_frame->data (0);
135         int* xyz_y = xyz_frame->data (1);
136         int* xyz_z = xyz_frame->data (2);
137
138         double const * lut_in = conversion.in()->lut (12);
139         double const * lut_out = conversion.out()->lut (16);
140         boost::numeric::ublas::matrix<double> matrix = conversion.matrix ();
141         
142         for (int y = 0; y < xyz_frame->size().height; ++y) {
143                 uint16_t* buffer_line = buffer;
144                 for (int x = 0; x < xyz_frame->size().width; ++x) {
145
146                         DCP_ASSERT (*xyz_x >= 0 && *xyz_y >= 0 && *xyz_z >= 0 && *xyz_x < 4096 && *xyz_y < 4096 && *xyz_z < 4096);
147
148                         /* In gamma LUT */
149                         s.x = lut_in[*xyz_x++];
150                         s.y = lut_in[*xyz_y++];
151                         s.z = lut_in[*xyz_z++];
152
153                         /* DCI companding */
154                         s.x /= DCI_COEFFICIENT;
155                         s.y /= DCI_COEFFICIENT;
156                         s.z /= DCI_COEFFICIENT;
157
158                         /* XYZ to RGB */
159                         d.r = ((s.x * matrix(0, 0)) + (s.y * matrix(0, 1)) + (s.z * matrix(0, 2)));
160                         d.g = ((s.x * matrix(1, 0)) + (s.y * matrix(1, 1)) + (s.z * matrix(1, 2)));
161                         d.b = ((s.x * matrix(2, 0)) + (s.y * matrix(2, 1)) + (s.z * matrix(2, 2)));
162                         
163                         d.r = min (d.r, 1.0);
164                         d.r = max (d.r, 0.0);
165                         
166                         d.g = min (d.g, 1.0);
167                         d.g = max (d.g, 0.0);
168                         
169                         d.b = min (d.b, 1.0);
170                         d.b = max (d.b, 0.0);
171
172                         *buffer_line++ = rint(lut_out[int(rint(d.r * 65535))] * 65535);
173                         *buffer_line++ = rint(lut_out[int(rint(d.g * 65535))] * 65535);
174                         *buffer_line++ = rint(lut_out[int(rint(d.b * 65535))] * 65535);
175                 }
176                 
177                 buffer += xyz_frame->size().width * 3;
178         }
179 }
180
181 /** rgb must be packed RGB 16:16:16, 48bpp, 16R, 16G, 16B, with the 2-byte value for each R/G/B component stored as little-endian;
182  *  i.e. AV_PIX_FMT_RGB48LE.
183  */
184 shared_ptr<dcp::XYZFrame>
185 dcp::rgb_to_xyz (
186         boost::shared_ptr<const Image> rgb,
187         ColourConversion const & conversion
188         )
189 {
190         shared_ptr<XYZFrame> xyz (new XYZFrame (rgb->size ()));
191
192         struct {
193                 double r, g, b;
194         } s;
195
196         struct {
197                 double x, y, z;
198         } d;
199
200         double const * lut_in = conversion.in()->lut (12);
201         double const * lut_out = conversion.out()->lut (16);
202         boost::numeric::ublas::matrix<double> matrix = conversion.matrix ();
203
204         int jn = 0;
205         for (int y = 0; y < rgb->size().height; ++y) {
206                 uint16_t* p = reinterpret_cast<uint16_t*> (rgb->data()[0] + y * rgb->stride()[0]);
207                 for (int x = 0; x < rgb->size().width; ++x) {
208
209                         /* In gamma LUT (converting 16-bit to 12-bit) */
210                         s.r = lut_in[*p++ >> 4];
211                         s.g = lut_in[*p++ >> 4];
212                         s.b = lut_in[*p++ >> 4];
213
214                         /* RGB to XYZ Matrix */
215                         d.x = ((s.r * matrix(0, 0)) + (s.g * matrix(0, 1)) + (s.b * matrix(0, 2)));
216                         d.y = ((s.r * matrix(1, 0)) + (s.g * matrix(1, 1)) + (s.b * matrix(1, 2)));
217                         d.z = ((s.r * matrix(2, 0)) + (s.g * matrix(2, 1)) + (s.b * matrix(2, 2)));
218                         
219                         /* DCI companding */
220                         d.x = d.x * DCI_COEFFICIENT * 65535;
221                         d.y = d.y * DCI_COEFFICIENT * 65535;
222                         d.z = d.z * DCI_COEFFICIENT * 65535;
223
224                         DCP_ASSERT (d.x >= 0 && d.x < 65536);
225                         DCP_ASSERT (d.y >= 0 && d.y < 65536);
226                         DCP_ASSERT (d.z >= 0 && d.z < 65536);
227                         
228                         /* Out gamma LUT */
229                         xyz->data(0)[jn] = lut_out[int(rint(d.x))] * 4095;
230                         xyz->data(1)[jn] = lut_out[int(rint(d.y))] * 4095;
231                         xyz->data(2)[jn] = lut_out[int(rint(d.z))] * 4095;
232
233                         ++jn;
234                 }
235         }
236
237         return xyz;
238 }
239
240
241 /** Image must be packed RGB 16:16:16, 48bpp, 16R, 16G, 16B, with the 2-byte value for each R/G/B component stored as little-endian;
242  *  i.e. AV_PIX_FMT_RGB48LE.
243  */
244 shared_ptr<dcp::XYZFrame>
245 dcp::xyz_to_xyz (shared_ptr<const Image> xyz_16)
246 {
247         shared_ptr<XYZFrame> xyz_12 (new XYZFrame (xyz_16->size ()));
248
249         int jn = 0;
250         for (int y = 0; y < xyz_16->size().height; ++y) {
251                 uint16_t* p = reinterpret_cast<uint16_t*> (xyz_16->data()[0] + y * xyz_16->stride()[0]);
252                 for (int x = 0; x < xyz_16->size().width; ++x) {
253                         /* Truncate 16-bit to 12-bit */
254                         xyz_12->data(0)[jn] = *p++ >> 4;
255                         xyz_12->data(1)[jn] = *p++ >> 4;
256                         xyz_12->data(2)[jn] = *p++ >> 4;
257                         ++jn;
258                 }
259         }
260         
261         return xyz_12;
262 }