Use same aeffectx.h for windows and linux VSTs.
[ardour.git] / libs / ardour / windows_vst_plugin.cc
1 /*
2     Copyright (C) 2004 Paul Davis
3
4     This program is free software; you can redistribute it and/or modify
5     it under the terms of the GNU General Public License as published by
6     the Free Software Foundation; either version 2 of the License, or
7     (at your option) any later version.
8
9     This program is distributed in the hope that it will be useful,
10     but WITHOUT ANY WARRANTY; without even the implied warranty of
11     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12     GNU General Public License for more details.
13
14     You should have received a copy of the GNU General Public License
15     along with this program; if not, write to the Free Software
16     Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
17
18 */
19
20 #include <algorithm>
21 #include <vector>
22 #include <string>
23 #include <cctype>
24
25 #include <cstdlib>
26 #include <cstdio> // so libraptor doesn't complain
27 #include <cmath>
28 #include <dirent.h>
29 #include <cstring> // for memmove
30 #include <sys/stat.h>
31 #include <cerrno>
32
33 #include <glibmm/miscutils.h>
34
35 #include <lrdf.h>
36 #include <fst.h>
37
38 #include "pbd/compose.h"
39 #include "pbd/error.h"
40 #include "pbd/pathscanner.h"
41 #include "pbd/xml++.h"
42
43 #include <fst.h>
44
45 #include "ardour/session.h"
46 #include "ardour/audioengine.h"
47 #include "ardour/filesystem_paths.h"
48 #include "ardour/windows_vst_plugin.h"
49 #include "ardour/buffer_set.h"
50 #include "ardour/audio_buffer.h"
51 #include "ardour/midi_buffer.h"
52
53 #include "pbd/stl_delete.h"
54
55 #include "i18n.h"
56 #include <locale.h>
57
58 using namespace std;
59 using namespace ARDOUR;
60 using namespace PBD;
61 using std::min;
62 using std::max;
63
64 WindowsVSTPlugin::WindowsVSTPlugin (AudioEngine& e, Session& session, FSTHandle* h)
65         : Plugin (e, session)
66 {
67         handle = h;
68
69         if ((_fst = fst_instantiate (handle, Session::vst_callback, this)) == 0) {
70                 throw failed_constructor();
71         }
72
73         _plugin = _fst->plugin;
74         _plugin->user = this;
75
76         /* set rate and blocksize */
77
78         _plugin->dispatcher (_plugin, effSetSampleRate, 0, 0, NULL,
79                              (float) session.frame_rate());
80         _plugin->dispatcher (_plugin, effSetBlockSize, 0,
81                              session.get_block_size(), NULL, 0.0f);
82
83         /* set program to zero */
84
85         _plugin->dispatcher (_plugin, effSetProgram, 0, 0, NULL, 0.0f);
86
87         // Plugin::setup_controls ();
88 }
89
90 WindowsVSTPlugin::WindowsVSTPlugin (const WindowsVSTPlugin &other)
91         : Plugin (other)
92 {
93         handle = other.handle;
94
95         if ((_fst = fst_instantiate (handle, Session::vst_callback, this)) == 0) {
96                 throw failed_constructor();
97         }
98         _plugin = _fst->plugin;
99
100         // Plugin::setup_controls ();
101 }
102
103 WindowsVSTPlugin::~WindowsVSTPlugin ()
104 {
105         deactivate ();
106         fst_close (_fst);
107 }
108
109 int
110 WindowsVSTPlugin::set_block_size (pframes_t nframes)
111 {
112         deactivate ();
113         _plugin->dispatcher (_plugin, effSetBlockSize, 0, nframes, NULL, 0.0f);
114         activate ();
115         return 0;
116 }
117
118 float
119 WindowsVSTPlugin::default_value (uint32_t port)
120 {
121         return 0;
122 }
123
124 void
125 WindowsVSTPlugin::set_parameter (uint32_t which, float val)
126 {
127         _plugin->setParameter (_plugin, which, val);
128
129         if (_fst->want_program == -1 && _fst->want_chunk == 0) {
130                 /* Heinous hack: Plugin::set_parameter below updates the `modified' status of the
131                    current preset, but if _fst->want_program is not -1 then there is a preset
132                    setup pending or in progress, which we don't want any `modified' updates
133                    to happen for.  So we only do this if _fst->want_program is -1.
134                 */
135                 Plugin::set_parameter (which, val);
136         }
137 }
138
139 float
140 WindowsVSTPlugin::get_parameter (uint32_t which) const
141 {
142         return _plugin->getParameter (_plugin, which);
143
144 }
145
146 uint32_t
147 WindowsVSTPlugin::nth_parameter (uint32_t n, bool& ok) const
148 {
149         ok = true;
150         return n;
151 }
152
153 /** Get VST chunk as base64-encoded data.
154  *  @param single true for single program, false for all programs.
155  *  @return 0-terminated base64-encoded data; must be passed to g_free () by caller.
156  */
157 gchar *
158 WindowsVSTPlugin::get_chunk (bool single) const
159 {
160         guchar* data;
161         int32_t data_size = _plugin->dispatcher (_plugin, 23 /* effGetChunk */, single ? 1 : 0, 0, &data, 0);
162         if (data_size == 0) {
163                 return 0;
164         }
165
166         return g_base64_encode (data, data_size);
167 }
168
169 /** Set VST chunk from base64-encoded data.
170  *  @param 0-terminated base64-encoded data.
171  *  @param single true for single program, false for all programs.
172  *  @return 0 on success, non-0 on failure
173  */
174 int
175 WindowsVSTPlugin::set_chunk (gchar const * data, bool single)
176 {
177         gsize size = 0;
178         guchar* raw_data = g_base64_decode (data, &size);
179         int const r = _plugin->dispatcher (_plugin, 24 /* effSetChunk */, single ? 1 : 0, size, raw_data, 0);
180         g_free (raw_data);
181         return r;
182 }
183
184 void
185 WindowsVSTPlugin::add_state (XMLNode* root) const
186 {
187         LocaleGuard lg (X_("POSIX"));
188
189         if (_fst->current_program != -1) {
190                 char buf[32];
191                 snprintf (buf, sizeof (buf), "%d", _fst->current_program);
192                 root->add_property ("current-program", buf);
193         }
194
195         if (_plugin->flags & 32 /* effFlagsProgramsChunks */) {
196
197                 gchar* data = get_chunk (false);
198                 if (data == 0) {
199                         return;
200                 }
201
202                 /* store information */
203
204                 XMLNode* chunk_node = new XMLNode (X_("chunk"));
205
206                 chunk_node->add_content (data);
207                 g_free (data);
208
209                 root->add_child_nocopy (*chunk_node);
210
211         } else {
212
213                 XMLNode* parameters = new XMLNode ("parameters");
214
215                 for (int32_t n = 0; n < _plugin->numParams; ++n) {
216                         char index[64];
217                         char val[32];
218                         snprintf (index, sizeof (index), "param_%d", n);
219                         snprintf (val, sizeof (val), "%.12g", _plugin->getParameter (_plugin, n));
220                         parameters->add_property (index, val);
221                 }
222
223                 root->add_child_nocopy (*parameters);
224         }
225 }
226
227 int
228 WindowsVSTPlugin::set_state (const XMLNode& node, int version)
229 {
230         LocaleGuard lg (X_("POSIX"));
231
232         if (node.name() != state_node_name()) {
233                 error << _("Bad node sent to WindowsVSTPlugin::set_state") << endmsg;
234                 return 0;
235         }
236
237         const XMLProperty* prop;
238
239         if ((prop = node.property ("current-program")) != 0) {
240                 _fst->want_program = atoi (prop->value().c_str());
241         }
242
243         XMLNode* child;
244         int ret = -1;
245
246         if ((child = find_named_node (node, X_("chunk"))) != 0) {
247
248                 XMLPropertyList::const_iterator i;
249                 XMLNodeList::const_iterator n;
250                 int ret = -1;
251
252                 for (n = child->children ().begin (); n != child->children ().end (); ++n) {
253                         if ((*n)->is_content ()) {
254                                 /* XXX: this may be dubious for the same reasons that we delay
255                                    execution of load_preset.
256                                 */
257                                 ret = set_chunk ((*n)->content().c_str(), false);
258                         }
259                 }
260
261         } else if ((child = find_named_node (node, X_("parameters"))) != 0) {
262
263                 XMLPropertyList::const_iterator i;
264
265                 for (i = child->properties().begin(); i != child->properties().end(); ++i) {
266                         int32_t param;
267                         float val;
268
269                         sscanf ((*i)->name().c_str(), "param_%d", &param);
270                         sscanf ((*i)->value().c_str(), "%f", &val);
271
272                         _plugin->setParameter (_plugin, param, val);
273                 }
274
275                 /* program number is not knowable */
276
277                 _fst->current_program = -1;
278
279                 ret = 0;
280
281         }
282
283         Plugin::set_state (node, version);
284         return ret;
285 }
286
287 int
288 WindowsVSTPlugin::get_parameter_descriptor (uint32_t which, ParameterDescriptor& desc) const
289 {
290         VstParameterProperties prop;
291
292         desc.min_unbound = false;
293         desc.max_unbound = false;
294         prop.flags = 0;
295
296         if (_plugin->dispatcher (_plugin, effGetParameterProperties, which, 0, &prop, 0)) {
297
298 #ifdef VESTIGE_COMPLETE
299
300                 /* i have yet to find or hear of a VST plugin that uses this */
301
302                 if (prop.flags & kVstParameterUsesIntegerMinMax) {
303                         desc.lower = prop.minInteger;
304                         desc.upper = prop.maxInteger;
305                 } else {
306                         desc.lower = 0;
307                         desc.upper = 1.0;
308                 }
309
310                 if (prop.flags & kVstParameterUsesIntStep) {
311
312                         desc.step = prop.stepInteger;
313                         desc.smallstep = prop.stepInteger;
314                         desc.largestep = prop.stepInteger;
315
316                 } else if (prop.flags & kVstParameterUsesFloatStep) {
317
318                         desc.step = prop.stepFloat;
319                         desc.smallstep = prop.smallStepFloat;
320                         desc.largestep = prop.largeStepFloat;
321
322                 } else {
323
324                         float range = desc.upper - desc.lower;
325
326                         desc.step = range / 100.0f;
327                         desc.smallstep = desc.step / 2.0f;
328                         desc.largestep = desc.step * 10.0f;
329                 }
330
331                 desc.toggled = prop.flags & kVstParameterIsSwitch;
332                 desc.logarithmic = false;
333                 desc.sr_dependent = false;
334                 desc.label = prop.label;
335 #endif
336
337         } else {
338
339                 /* old style */
340
341                 char label[64];
342                 label[0] = '\0';
343
344                 _plugin->dispatcher (_plugin, effGetParamName, which, 0, label, 0);
345
346                 desc.label = label;
347                 desc.integer_step = false;
348                 desc.lower = 0.0f;
349                 desc.upper = 1.0f;
350                 desc.step = 0.01f;
351                 desc.smallstep = 0.005f;
352                 desc.largestep = 0.1f;
353                 desc.toggled = false;
354                 desc.logarithmic = false;
355                 desc.sr_dependent = false;
356         }
357
358         return 0;
359 }
360
361 bool
362 WindowsVSTPlugin::load_preset (PresetRecord r)
363 {
364         bool s;
365
366         if (r.user) {
367                 s = load_user_preset (r);
368         } else {
369                 s = load_plugin_preset (r);
370         }
371
372         if (s) {
373                 Plugin::load_preset (r);
374         }
375
376         return s;
377 }
378
379 bool
380 WindowsVSTPlugin::load_plugin_preset (PresetRecord r)
381 {
382         /* This is a plugin-provided preset.
383            We can't dispatch directly here; too many plugins expects only one GUI thread.
384         */
385
386         /* Extract the index of this preset from the URI */
387         int id;
388         int index;
389         int const p = sscanf (r.uri.c_str(), "VST:%d:%d", &id, &index);
390         assert (p == 2);
391
392         _fst->want_program = index;
393         return true;
394 }
395
396 bool
397 WindowsVSTPlugin::load_user_preset (PresetRecord r)
398 {
399         /* This is a user preset; we load it, and this code also knows about the
400            non-direct-dispatch thing.
401         */
402
403         boost::shared_ptr<XMLTree> t (presets_tree ());
404         if (t == 0) {
405                 return false;
406         }
407
408         XMLNode* root = t->root ();
409
410         for (XMLNodeList::const_iterator i = root->children().begin(); i != root->children().end(); ++i) {
411
412                 XMLProperty* uri = (*i)->property (X_("uri"));
413                 XMLProperty* label = (*i)->property (X_("label"));
414
415                 assert (uri);
416                 assert (label);
417
418                 if (label->value() != r.label) {
419                         continue;
420                 }
421
422                 if (_plugin->flags & 32 /* effFlagsProgramsChunks */) {
423
424                         /* Load a user preset chunk from our XML file and send it via a circuitous route to the plugin */
425
426                         if (_fst->wanted_chunk) {
427                                 g_free (_fst->wanted_chunk);
428                         }
429
430                         for (XMLNodeList::const_iterator j = (*i)->children().begin(); j != (*i)->children().end(); ++j) {
431                                 if ((*j)->is_content ()) {
432                                         /* we can't dispatch directly here; too many plugins expect only one GUI thread */
433                                         gsize size = 0;
434                                         guchar* raw_data = g_base64_decode ((*j)->content().c_str(), &size);
435                                         _fst->wanted_chunk = raw_data;
436                                         _fst->wanted_chunk_size = size;
437                                         _fst->want_chunk = 1;
438                                         return true;
439                                 }
440                         }
441
442                         return false;
443
444                 } else {
445
446                         for (XMLNodeList::const_iterator j = (*i)->children().begin(); j != (*i)->children().end(); ++j) {
447                                 if ((*j)->name() == X_("Parameter")) {
448
449                                                 XMLProperty* index = (*j)->property (X_("index"));
450                                                 XMLProperty* value = (*j)->property (X_("value"));
451
452                                                 assert (index);
453                                                 assert (value);
454
455                                                 set_parameter (atoi (index->value().c_str()), atof (value->value().c_str ()));
456                                 }
457                         }
458
459                         return true;
460                 }
461         }
462
463         return false;
464 }
465
466 string
467 WindowsVSTPlugin::do_save_preset (string name)
468 {
469         boost::shared_ptr<XMLTree> t (presets_tree ());
470         if (t == 0) {
471                 return "";
472         }
473
474         XMLNode* p = 0;
475         /* XXX: use of _presets.size() + 1 for the unique ID here is dubious at best */
476         string const uri = string_compose (X_("VST:%1:%2"), unique_id (), _presets.size() + 1);
477
478         if (_plugin->flags & 32 /* effFlagsProgramsChunks */) {
479
480                 p = new XMLNode (X_("ChunkPreset"));
481                 p->add_property (X_("uri"), uri);
482                 p->add_property (X_("label"), name);
483                 gchar* data = get_chunk (true);
484                 p->add_content (string (data));
485                 g_free (data);
486
487         } else {
488
489                 p = new XMLNode (X_("Preset"));
490                 p->add_property (X_("uri"), uri);
491                 p->add_property (X_("label"), name);
492
493                 for (uint32_t i = 0; i < parameter_count(); ++i) {
494                         if (parameter_is_input (i)) {
495                                 XMLNode* c = new XMLNode (X_("Parameter"));
496                                 c->add_property (X_("index"), string_compose ("%1", i));
497                                 c->add_property (X_("value"), string_compose ("%1", get_parameter (i)));
498                                 p->add_child_nocopy (*c);
499                         }
500                 }
501
502         }
503
504         t->root()->add_child_nocopy (*p);
505
506         sys::path f = ARDOUR::user_config_directory ();
507         f /= "presets";
508         f /= presets_file ();
509
510         t->write (f.to_string ());
511         return uri;
512 }
513
514 void
515 WindowsVSTPlugin::do_remove_preset (string name)
516 {
517         boost::shared_ptr<XMLTree> t (presets_tree ());
518         if (t == 0) {
519                 return;
520         }
521
522         t->root()->remove_nodes_and_delete (X_("label"), name);
523
524         sys::path f = ARDOUR::user_config_directory ();
525         f /= "presets";
526         f /= presets_file ();
527
528         t->write (f.to_string ());
529 }
530
531 string
532 WindowsVSTPlugin::describe_parameter (Evoral::Parameter param)
533 {
534         char name[64];
535         _plugin->dispatcher (_plugin, effGetParamName, param.id(), 0, name, 0);
536         return name;
537 }
538
539 framecnt_t
540 WindowsVSTPlugin::signal_latency () const
541 {
542         if (_user_latency) {
543                 return _user_latency;
544         }
545
546         return *((framecnt_t *) (((char *) &_plugin->flags) + 12)); /* initialDelay */
547 }
548
549 set<Evoral::Parameter>
550 WindowsVSTPlugin::automatable () const
551 {
552         set<Evoral::Parameter> ret;
553
554         for (uint32_t i = 0; i < parameter_count(); ++i){
555                 ret.insert (ret.end(), Evoral::Parameter(PluginAutomation, 0, i));
556         }
557
558         return ret;
559 }
560
561 int
562 WindowsVSTPlugin::connect_and_run (BufferSet& bufs,
563                 ChanMapping in_map, ChanMapping out_map,
564                 pframes_t nframes, framecnt_t offset)
565 {
566         Plugin::connect_and_run (bufs, in_map, out_map, nframes, offset);
567
568         float *ins[_plugin->numInputs];
569         float *outs[_plugin->numOutputs];
570         int32_t i;
571
572         const uint32_t nbufs = bufs.count().n_audio();
573
574         int in_index = 0;
575         for (i = 0; i < (int32_t) _plugin->numInputs; ++i) {
576                 ins[i] = bufs.get_audio(min((uint32_t) in_index, nbufs - 1)).data() + offset;
577                 in_index++;
578         }
579
580         int out_index = 0;
581         for (i = 0; i < (int32_t) _plugin->numOutputs; ++i) {
582                 outs[i] = bufs.get_audio(min((uint32_t) out_index, nbufs - 1)).data() + offset;
583
584                 /* unbelievably, several VST plugins still rely on Cubase
585                    behaviour and do not silence the buffer in processReplacing
586                    when they have no output.
587                 */
588
589                 // memset (outs[i], 0, sizeof (Sample) * nframes);
590                 out_index++;
591         }
592
593
594         if (bufs.count().n_midi() > 0) {
595                 VstEvents* v = bufs.get_vst_midi (0);
596                 _plugin->dispatcher (_plugin, effProcessEvents, 0, 0, v, 0);
597         }
598
599         /* we already know it can support processReplacing */
600         _plugin->processReplacing (_plugin, ins, outs, nframes);
601
602         return 0;
603 }
604
605 void
606 WindowsVSTPlugin::deactivate ()
607 {
608         _plugin->dispatcher (_plugin, effMainsChanged, 0, 0, NULL, 0.0f);
609 }
610
611 void
612 WindowsVSTPlugin::activate ()
613 {
614         _plugin->dispatcher (_plugin, effMainsChanged, 0, 1, NULL, 0.0f);
615 }
616
617 string
618 WindowsVSTPlugin::unique_id() const
619 {
620         char buf[32];
621
622        snprintf (buf, sizeof (buf), "%d", *((int32_t*) &_plugin->uniqueID));
623        return string (buf);
624 }
625
626
627 const char *
628 WindowsVSTPlugin::name () const
629 {
630         return handle->name;
631 }
632
633 const char *
634 WindowsVSTPlugin::maker () const
635 {
636         return _info->creator.c_str();
637 }
638
639 const char *
640 WindowsVSTPlugin::label () const
641 {
642         return handle->name;
643 }
644
645 uint32_t
646 WindowsVSTPlugin::parameter_count() const
647 {
648         return _plugin->numParams;
649 }
650
651 bool
652 WindowsVSTPlugin::has_editor () const
653 {
654         return _plugin->flags & effFlagsHasEditor;
655 }
656
657 void
658 WindowsVSTPlugin::print_parameter (uint32_t param, char *buf, uint32_t len) const
659 {
660         char *first_nonws;
661
662         _plugin->dispatcher (_plugin, 7 /* effGetParamDisplay */, param, 0, buf, 0);
663
664         if (buf[0] == '\0') {
665                 return;
666         }
667
668         first_nonws = buf;
669         while (*first_nonws && isspace (*first_nonws)) {
670                 first_nonws++;
671         }
672         if (*first_nonws == '\0') {
673                 return;
674         }
675
676         memmove (buf, first_nonws, strlen (buf) - (first_nonws - buf) + 1);
677 }
678
679 PluginPtr
680 WindowsVSTPluginInfo::load (Session& session)
681 {
682         try {
683                 PluginPtr plugin;
684
685                 if (Config->get_use_windows_vst ()) {
686                         FSTHandle* handle;
687
688                         handle = fst_load(path.c_str());
689
690                         if ( (int)handle == -1) {
691                                 error << string_compose(_("VST: cannot load module from \"%1\""), path) << endmsg;
692                         } else {
693                                 plugin.reset (new WindowsVSTPlugin (session.engine(), session, handle));
694                         }
695                 } else {
696                         error << _("You asked ardour to not use any VST plugins") << endmsg;
697                         return PluginPtr ((Plugin*) 0);
698                 }
699
700                 plugin->set_info(PluginInfoPtr(new WindowsVSTPluginInfo(*this)));
701                 return plugin;
702         }
703
704         catch (failed_constructor &err) {
705                 return PluginPtr ((Plugin*) 0);
706         }
707 }
708
709 void
710 WindowsVSTPlugin::find_presets ()
711 {
712         /* Built-in presets */
713
714         int const vst_version = _plugin->dispatcher (_plugin, effGetVstVersion, 0, 0, NULL, 0);
715         for (int i = 0; i < _plugin->numPrograms; ++i) {
716                 PresetRecord r (string_compose (X_("VST:%1:%2"), unique_id (), i), "", false);
717
718                 if (vst_version >= 2) {
719                         char buf[256];
720                         if (_plugin->dispatcher (_plugin, 29, i, 0, buf, 0) == 1) {
721                                 r.label = buf;
722                         } else {
723                                 r.label = string_compose (_("Preset %1"), i);
724                         }
725                 } else {
726                         r.label = string_compose (_("Preset %1"), i);
727                 }
728
729                 _presets.insert (make_pair (r.uri, r));
730         }
731
732         /* User presets from our XML file */
733
734         boost::shared_ptr<XMLTree> t (presets_tree ());
735
736         if (t) {
737                 XMLNode* root = t->root ();
738                 for (XMLNodeList::const_iterator i = root->children().begin(); i != root->children().end(); ++i) {
739
740                         XMLProperty* uri = (*i)->property (X_("uri"));
741                         XMLProperty* label = (*i)->property (X_("label"));
742
743                         assert (uri);
744                         assert (label);
745
746                         PresetRecord r (uri->value(), label->value(), true);
747                         _presets.insert (make_pair (r.uri, r));
748                 }
749         }
750
751 }
752
753 /** @return XMLTree with our user presets; could be a new one if no existing
754  *  one was found, or 0 if one was present but badly-formatted.
755  */
756 XMLTree *
757 WindowsVSTPlugin::presets_tree () const
758 {
759         XMLTree* t = new XMLTree;
760
761         sys::path p = ARDOUR::user_config_directory ();
762         p /= "presets";
763
764         if (!is_directory (p)) {
765                 create_directory (p);
766         }
767
768         p /= presets_file ();
769
770         if (!exists (p)) {
771                 t->set_root (new XMLNode (X_("WindowsVSTPresets")));
772                 return t;
773         }
774
775         t->set_filename (p.to_string ());
776         if (!t->read ()) {
777                 delete t;
778                 return 0;
779         }
780
781         return t;
782 }
783
784 /** @return Index of the first user preset in our lists */
785 int
786 WindowsVSTPlugin::first_user_preset_index () const
787 {
788         return _plugin->numPrograms;
789 }
790
791 string
792 WindowsVSTPlugin::presets_file () const
793 {
794         return string_compose ("vst-%1", unique_id ());
795 }
796
797 WindowsVSTPluginInfo::WindowsVSTPluginInfo()
798 {
799        type = ARDOUR::Windows_VST;
800 }
801