Switch PlayerVideo::always_rgb to a new ::force and use it in FFmpegFileEncoder.
[dcpomatic.git] / src / lib / player_video.cc
1 /*
2     Copyright (C) 2013-2018 Carl Hetherington <cth@carlh.net>
3
4     This file is part of DCP-o-matic.
5
6     DCP-o-matic is free software; you can redistribute it and/or modify
7     it under the terms of the GNU General Public License as published by
8     the Free Software Foundation; either version 2 of the License, or
9     (at your option) any later version.
10
11     DCP-o-matic is distributed in the hope that it will be useful,
12     but WITHOUT ANY WARRANTY; without even the implied warranty of
13     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14     GNU General Public License for more details.
15
16     You should have received a copy of the GNU General Public License
17     along with DCP-o-matic.  If not, see <http://www.gnu.org/licenses/>.
18
19 */
20
21 #include "player_video.h"
22 #include "content.h"
23 #include "video_content.h"
24 #include "image.h"
25 #include "image_proxy.h"
26 #include "j2k_image_proxy.h"
27 #include "film.h"
28 #include <dcp/raw_convert.h>
29 extern "C" {
30 #include <libavutil/pixfmt.h>
31 }
32 #include <libxml++/libxml++.h>
33 #include <iostream>
34
35 using std::string;
36 using std::cout;
37 using std::pair;
38 using boost::shared_ptr;
39 using boost::weak_ptr;
40 using boost::dynamic_pointer_cast;
41 using boost::optional;
42 using boost::function;
43 using dcp::Data;
44 using dcp::raw_convert;
45
46 PlayerVideo::PlayerVideo (
47         shared_ptr<const ImageProxy> in,
48         Crop crop,
49         boost::optional<double> fade,
50         dcp::Size inter_size,
51         dcp::Size out_size,
52         Eyes eyes,
53         Part part,
54         optional<ColourConversion> colour_conversion,
55         weak_ptr<Content> content,
56         optional<Frame> video_frame
57         )
58         : _in (in)
59         , _crop (crop)
60         , _fade (fade)
61         , _inter_size (inter_size)
62         , _out_size (out_size)
63         , _eyes (eyes)
64         , _part (part)
65         , _colour_conversion (colour_conversion)
66         , _content (content)
67         , _video_frame (video_frame)
68 {
69
70 }
71
72 PlayerVideo::PlayerVideo (shared_ptr<cxml::Node> node, shared_ptr<Socket> socket)
73 {
74         _crop = Crop (node);
75         _fade = node->optional_number_child<double> ("Fade");
76
77         _inter_size = dcp::Size (node->number_child<int> ("InterWidth"), node->number_child<int> ("InterHeight"));
78         _out_size = dcp::Size (node->number_child<int> ("OutWidth"), node->number_child<int> ("OutHeight"));
79         _eyes = (Eyes) node->number_child<int> ("Eyes");
80         _part = (Part) node->number_child<int> ("Part");
81
82         /* Assume that the ColourConversion uses the current state version */
83         _colour_conversion = ColourConversion::from_xml (node, Film::current_state_version);
84
85         _in = image_proxy_factory (node->node_child ("In"), socket);
86
87         if (node->optional_number_child<int> ("SubtitleX")) {
88
89                 shared_ptr<Image> image (
90                         new Image (AV_PIX_FMT_BGRA, dcp::Size (node->number_child<int> ("SubtitleWidth"), node->number_child<int> ("SubtitleHeight")), true)
91                         );
92
93                 image->read_from_socket (socket);
94
95                 _text = PositionImage (image, Position<int> (node->number_child<int> ("SubtitleX"), node->number_child<int> ("SubtitleY")));
96         }
97 }
98
99 void
100 PlayerVideo::set_text (PositionImage image)
101 {
102         _text = image;
103 }
104
105 /** Create an image for this frame.
106  *  @param pixel_format Function which is called to decide what pixel format the output image should be;
107  *  it is passed the pixel format of the input image from the ImageProxy, and should return the desired
108  *  output pixel format.  Two functions force and keep_xyz_or_rgb are provided for use here.
109  *  @param aligned true if the output image should be aligned to 32-byte boundaries.
110  *  @param fast true to be fast at the expense of quality.
111  */
112 shared_ptr<Image>
113 PlayerVideo::image (function<AVPixelFormat (AVPixelFormat)> pixel_format, bool aligned, bool fast) const
114 {
115         pair<shared_ptr<Image>, int> prox = _in->image (_inter_size);
116         shared_ptr<Image> im = prox.first;
117         int const reduce = prox.second;
118
119         Crop total_crop = _crop;
120         switch (_part) {
121         case PART_LEFT_HALF:
122                 total_crop.right += im->size().width / 2;
123                 break;
124         case PART_RIGHT_HALF:
125                 total_crop.left += im->size().width / 2;
126                 break;
127         case PART_TOP_HALF:
128                 total_crop.bottom += im->size().height / 2;
129                 break;
130         case PART_BOTTOM_HALF:
131                 total_crop.top += im->size().height / 2;
132                 break;
133         default:
134                 break;
135         }
136
137         if (reduce > 0) {
138                 /* Scale the crop down to account for the scaling that has already happened in ImageProxy::image */
139                 int const r = pow(2, reduce);
140                 total_crop.left /= r;
141                 total_crop.right /= r;
142                 total_crop.top /= r;
143                 total_crop.bottom /= r;
144         }
145
146         dcp::YUVToRGB yuv_to_rgb = dcp::YUV_TO_RGB_REC601;
147         if (_colour_conversion) {
148                 yuv_to_rgb = _colour_conversion.get().yuv_to_rgb();
149         }
150
151         shared_ptr<Image> out = im->crop_scale_window (
152                 total_crop, _inter_size, _out_size, yuv_to_rgb, pixel_format (im->pixel_format()), aligned, fast
153                 );
154
155         if (_text) {
156                 out->alpha_blend (Image::ensure_aligned (_text->image), _text->position);
157         }
158
159         if (_fade) {
160                 out->fade (_fade.get ());
161         }
162
163         return out;
164 }
165
166 void
167 PlayerVideo::add_metadata (xmlpp::Node* node) const
168 {
169         _crop.as_xml (node);
170         if (_fade) {
171                 node->add_child("Fade")->add_child_text (raw_convert<string> (_fade.get ()));
172         }
173         _in->add_metadata (node->add_child ("In"));
174         node->add_child("InterWidth")->add_child_text (raw_convert<string> (_inter_size.width));
175         node->add_child("InterHeight")->add_child_text (raw_convert<string> (_inter_size.height));
176         node->add_child("OutWidth")->add_child_text (raw_convert<string> (_out_size.width));
177         node->add_child("OutHeight")->add_child_text (raw_convert<string> (_out_size.height));
178         node->add_child("Eyes")->add_child_text (raw_convert<string> (static_cast<int> (_eyes)));
179         node->add_child("Part")->add_child_text (raw_convert<string> (static_cast<int> (_part)));
180         if (_colour_conversion) {
181                 _colour_conversion.get().as_xml (node);
182         }
183         if (_text) {
184                 node->add_child ("SubtitleWidth")->add_child_text (raw_convert<string> (_text->image->size().width));
185                 node->add_child ("SubtitleHeight")->add_child_text (raw_convert<string> (_text->image->size().height));
186                 node->add_child ("SubtitleX")->add_child_text (raw_convert<string> (_text->position.x));
187                 node->add_child ("SubtitleY")->add_child_text (raw_convert<string> (_text->position.y));
188         }
189 }
190
191 void
192 PlayerVideo::send_binary (shared_ptr<Socket> socket) const
193 {
194         _in->send_binary (socket);
195         if (_text) {
196                 _text->image->write_to_socket (socket);
197         }
198 }
199
200 bool
201 PlayerVideo::has_j2k () const
202 {
203         /* XXX: maybe other things */
204
205         shared_ptr<const J2KImageProxy> j2k = dynamic_pointer_cast<const J2KImageProxy> (_in);
206         if (!j2k) {
207                 return false;
208         }
209
210         return _crop == Crop () && _out_size == j2k->size() && !_text && !_fade && !_colour_conversion;
211 }
212
213 Data
214 PlayerVideo::j2k () const
215 {
216         shared_ptr<const J2KImageProxy> j2k = dynamic_pointer_cast<const J2KImageProxy> (_in);
217         DCPOMATIC_ASSERT (j2k);
218         return j2k->j2k ();
219 }
220
221 Position<int>
222 PlayerVideo::inter_position () const
223 {
224         return Position<int> ((_out_size.width - _inter_size.width) / 2, (_out_size.height - _inter_size.height) / 2);
225 }
226
227 /** @return true if this PlayerVideo is definitely the same as another, false if it is probably not */
228 bool
229 PlayerVideo::same (shared_ptr<const PlayerVideo> other) const
230 {
231         if (_crop != other->_crop ||
232             _fade.get_value_or(0) != other->_fade.get_value_or(0) ||
233             _inter_size != other->_inter_size ||
234             _out_size != other->_out_size ||
235             _eyes != other->_eyes ||
236             _part != other->_part ||
237             _colour_conversion != other->_colour_conversion) {
238                 return false;
239         }
240
241         if ((!_text && other->_text) || (_text && !other->_text)) {
242                 /* One has a text and the other doesn't */
243                 return false;
244         }
245
246         if (_text && other->_text && !_text->same (other->_text.get ())) {
247                 /* They both have texts but they are different */
248                 return false;
249         }
250
251         /* Now neither has subtitles */
252
253         return _in->same (other->_in);
254 }
255
256 AVPixelFormat
257 PlayerVideo::force (AVPixelFormat, AVPixelFormat force_to)
258 {
259         return force_to;
260 }
261
262 AVPixelFormat
263 PlayerVideo::keep_xyz_or_rgb (AVPixelFormat p)
264 {
265         return p == AV_PIX_FMT_XYZ12LE ? AV_PIX_FMT_XYZ12LE : AV_PIX_FMT_RGB48LE;
266 }
267
268 void
269 PlayerVideo::prepare ()
270 {
271         _in->prepare (_inter_size);
272 }
273
274 size_t
275 PlayerVideo::memory_used () const
276 {
277         return _in->memory_used();
278 }
279
280 /** @return Shallow copy of this; _in and _text are shared between the original and the copy */
281 shared_ptr<PlayerVideo>
282 PlayerVideo::shallow_copy () const
283 {
284         return shared_ptr<PlayerVideo>(
285                 new PlayerVideo(
286                         _in,
287                         _crop,
288                         _fade,
289                         _inter_size,
290                         _out_size,
291                         _eyes,
292                         _part,
293                         _colour_conversion,
294                         _content,
295                         _video_frame
296                         )
297                 );
298 }
299
300 /** Re-read crop, fade, inter/out size and colour conversion from our content.
301  *  @return true if this was possible, false if not.
302  */
303 bool
304 PlayerVideo::reset_metadata (dcp::Size video_container_size, dcp::Size film_frame_size)
305 {
306         shared_ptr<Content> content = _content.lock();
307         if (!content || !_video_frame) {
308                 return false;
309         }
310
311         _crop = content->video->crop();
312         _fade = content->video->fade(_video_frame.get());
313         _inter_size = content->video->scale().size(content->video, video_container_size, film_frame_size);
314         _out_size = video_container_size;
315         _colour_conversion = content->video->colour_conversion();
316
317         return true;
318 }