fix crash when copy'ing latent plugins
[ardour.git] / libs / ardour / lua_api.cc
1 /*
2  * Copyright (C) 2016 Robin Gareus <robin@gareus.org>
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301, USA.
17  *
18  */
19 #include <cstring>
20
21 #include "pbd/error.h"
22 #include "pbd/compose.h"
23
24 #include "ardour/lua_api.h"
25 #include "ardour/luaproc.h"
26 #include "ardour/luascripting.h"
27 #include "ardour/plugin.h"
28 #include "ardour/plugin_insert.h"
29 #include "ardour/plugin_manager.h"
30
31 #include "LuaBridge/LuaBridge.h"
32
33 #include "pbd/i18n.h"
34
35 using namespace ARDOUR;
36 using namespace PBD;
37 using namespace std;
38
39 int
40 ARDOUR::LuaAPI::datatype_ctor_null (lua_State *L)
41 {
42         DataType dt (DataType::NIL);
43         luabridge::Stack <DataType>::push (L, dt);
44         return 1;
45 }
46
47 int
48 ARDOUR::LuaAPI::datatype_ctor_audio (lua_State *L)
49 {
50         DataType dt (DataType::AUDIO);
51         // NB luabridge will copy construct the object and manage lifetime.
52         luabridge::Stack <DataType>::push (L, dt);
53         return 1;
54 }
55
56 int
57 ARDOUR::LuaAPI::datatype_ctor_midi (lua_State *L)
58 {
59         DataType dt (DataType::MIDI);
60         luabridge::Stack <DataType>::push (L, dt);
61         return 1;
62 }
63
64 boost::shared_ptr<Processor>
65 ARDOUR::LuaAPI::nil_processor ()
66 {
67         return boost::shared_ptr<Processor> ();
68 }
69
70 boost::shared_ptr<Processor>
71 ARDOUR::LuaAPI::new_luaproc (Session *s, const string& name)
72 {
73         if (!s) {
74                 return boost::shared_ptr<Processor> ();
75         }
76
77         LuaScriptInfoPtr spi;
78         ARDOUR::LuaScriptList & _scripts (LuaScripting::instance ().scripts (LuaScriptInfo::DSP));
79         for (LuaScriptList::const_iterator i = _scripts.begin(); i != _scripts.end(); ++i) {
80                 if (name == (*i)->name) {
81                         spi = *i;
82                         break;
83                 }
84         }
85
86         if (!spi) {
87                 warning << _("Script with given name was not found\n");
88                 return boost::shared_ptr<Processor> ();
89         }
90
91         PluginPtr p;
92         try {
93                 LuaPluginInfoPtr lpi (new LuaPluginInfo(spi));
94                 p = (lpi->load (*s));
95         } catch (...) {
96                 warning << _("Failed to instantiate Lua Processor\n");
97                 return boost::shared_ptr<Processor> ();
98         }
99
100         return boost::shared_ptr<Processor> (new PluginInsert (*s, p));
101 }
102
103 PluginInfoPtr
104 ARDOUR::LuaAPI::new_plugin_info (const string& name, ARDOUR::PluginType type)
105 {
106         PluginManager& manager = PluginManager::instance();
107         PluginInfoList all_plugs;
108         all_plugs.insert(all_plugs.end(), manager.ladspa_plugin_info().begin(), manager.ladspa_plugin_info().end());
109         all_plugs.insert(all_plugs.end(), manager.lua_plugin_info().begin(), manager.lua_plugin_info().end());
110 #ifdef WINDOWS_VST_SUPPORT
111         all_plugs.insert(all_plugs.end(), manager.windows_vst_plugin_info().begin(), manager.windows_vst_plugin_info().end());
112 #endif
113 #ifdef LXVST_SUPPORT
114         all_plugs.insert(all_plugs.end(), manager.lxvst_plugin_info().begin(), manager.lxvst_plugin_info().end());
115 #endif
116 #ifdef AUDIOUNIT_SUPPORT
117         all_plugs.insert(all_plugs.end(), manager.au_plugin_info().begin(), manager.au_plugin_info().end());
118 #endif
119 #ifdef LV2_SUPPORT
120         all_plugs.insert(all_plugs.end(), manager.lv2_plugin_info().begin(), manager.lv2_plugin_info().end());
121 #endif
122
123         for (PluginInfoList::const_iterator i = all_plugs.begin(); i != all_plugs.end(); ++i) {
124                 if (((*i)->name == name || (*i)->unique_id == name) && (*i)->type == type) {
125                         return *i;
126                 }
127         }
128         return PluginInfoPtr ();
129 }
130
131 boost::shared_ptr<Processor>
132 ARDOUR::LuaAPI::new_plugin (Session *s, const string& name, ARDOUR::PluginType type, const string& preset)
133 {
134         if (!s) {
135                 return boost::shared_ptr<Processor> ();
136         }
137
138         PluginInfoPtr pip = new_plugin_info (name, type);
139
140         if (!pip) {
141                 return boost::shared_ptr<Processor> ();
142         }
143
144         PluginPtr p = pip->load (*s);
145         if (!p) {
146                 return boost::shared_ptr<Processor> ();
147         }
148
149         if (!preset.empty()) {
150                 const Plugin::PresetRecord *pr = p->preset_by_label (preset);
151                 if (pr) {
152                         p->load_preset (*pr);
153                 }
154         }
155
156         return boost::shared_ptr<Processor> (new PluginInsert (*s, p));
157 }
158
159 bool
160 ARDOUR::LuaAPI::set_plugin_insert_param (boost::shared_ptr<PluginInsert> pi, uint32_t which, float val)
161 {
162         boost::shared_ptr<Plugin> plugin = pi->plugin();
163         if (!plugin) { return false; }
164
165         bool ok=false;
166         uint32_t controlid = plugin->nth_parameter (which, ok);
167         if (!ok) { return false; }
168         if (!plugin->parameter_is_input (controlid)) { return false; }
169
170         ParameterDescriptor pd;
171         if (plugin->get_parameter_descriptor (controlid, pd) != 0) { return false; }
172         if (val < pd.lower || val > pd.upper) { return false; }
173
174         boost::shared_ptr<AutomationControl> c = pi->automation_control (Evoral::Parameter(PluginAutomation, 0, controlid));
175         c->set_value (val, PBD::Controllable::NoGroup);
176         return true;
177 }
178
179 bool
180 ARDOUR::LuaAPI::set_processor_param (boost::shared_ptr<Processor> proc, uint32_t which, float val)
181 {
182         boost::shared_ptr<PluginInsert> pi = boost::dynamic_pointer_cast<PluginInsert> (proc);
183         if (!pi) { return false; }
184         return set_plugin_insert_param (pi, which, val);
185 }
186
187 int
188 ARDOUR::LuaAPI::plugin_automation (lua_State *L)
189 {
190         typedef boost::shared_ptr<Processor> T;
191
192         int top = lua_gettop(L);
193         if (top < 2) {
194                 return luaL_argerror (L, 1, "invalid number of arguments, :plugin_automation (plugin, parameter_number)");
195         }
196         T* const p = luabridge::Userdata::get<T>(L, 1, false);
197         uint32_t which = luabridge::Stack<uint32_t>::get (L, 2);
198         if (!p) {
199                 return luaL_error (L, "Invalid pointer to Ardour:Processor");
200         }
201         boost::shared_ptr<PluginInsert> pi = boost::dynamic_pointer_cast<PluginInsert> (*p);
202         if (!pi) {
203                 return luaL_error (L, "Given Processor is not a Plugin Insert");
204         }
205         boost::shared_ptr<Plugin> plugin = pi->plugin();
206         if (!plugin) {
207                 return luaL_error (L, "Given Processor is not a Plugin");
208         }
209
210         bool ok=false;
211         uint32_t controlid = plugin->nth_parameter (which, ok);
212         if (!ok) {
213                 return luaL_error (L, "Invalid Parameter");
214         }
215         if (!plugin->parameter_is_input (controlid)) {
216                 return luaL_error (L, "Given Parameter is not an input");
217         }
218
219         ParameterDescriptor pd;
220         if (plugin->get_parameter_descriptor (controlid, pd) != 0) {
221                 return luaL_error (L, "Cannot describe parameter");
222         }
223
224         boost::shared_ptr<AutomationControl> c = pi->automation_control (Evoral::Parameter(PluginAutomation, 0, controlid));
225
226         luabridge::Stack<boost::shared_ptr<AutomationList> >::push (L, c->alist());
227         luabridge::Stack<boost::shared_ptr<Evoral::ControlList> >::push (L, c->list());
228         luabridge::Stack<ParameterDescriptor>::push (L, pd);
229         return 3;
230 }
231
232 int
233 ARDOUR::LuaOSC::Address::send (lua_State *L)
234 {
235         Address * const luaosc = luabridge::Userdata::get <Address> (L, 1, false);
236         if (!luaosc) {
237                 return luaL_error (L, "Invalid pointer to OSC.Address");
238         }
239         if (!luaosc->_addr) {
240                 return luaL_error (L, "Invalid Destination Address");
241         }
242
243         int top = lua_gettop(L);
244         if (top < 3) {
245     return luaL_argerror (L, 1, "invalid number of arguments, :send (path, type, ...)");
246         }
247
248         const char* path = luaL_checkstring (L, 2);
249         const char* type = luaL_checkstring (L, 3);
250         assert (path && type);
251
252         if ((int) strlen(type) != top - 3) {
253     return luaL_argerror (L, 3, "type description does not match arguments");
254         }
255
256         lo_message msg = lo_message_new ();
257
258         for (int i = 4; i <= top; ++i) {
259                 char t = type[i - 4];
260                 int lt = lua_type(L, i);
261                 int ok = -1;
262                 switch(lt) {
263                         case LUA_TSTRING:
264                                 if (t == LO_STRING) {
265                                         ok = lo_message_add_string (msg, luaL_checkstring(L, i));
266                                 } else if (t ==  LO_CHAR) {
267                                         char c = luaL_checkstring (L, i) [0];
268                                         ok = lo_message_add_char (msg, c);
269                                 }
270                                 break;
271                         case LUA_TBOOLEAN:
272                                 if (t == LO_TRUE || t == LO_FALSE) {
273                                         if (lua_toboolean (L, i)) {
274                                                 ok = lo_message_add_true (msg);
275                                         } else {
276                                                 ok = lo_message_add_false (msg);
277                                         }
278                                 }
279                                 break;
280                         case LUA_TNUMBER:
281                                 if (t == LO_INT32) {
282                                         ok = lo_message_add_int32 (msg, (int32_t) luaL_checkinteger(L, i));
283                                 }
284                                 else if (t == LO_FLOAT) {
285                                         ok = lo_message_add_float (msg, (float) luaL_checknumber(L, i));
286                                 }
287                                 else if (t == LO_DOUBLE) {
288                                         ok = lo_message_add_double (msg, (double) luaL_checknumber(L, i));
289                                 }
290                                 else if (t == LO_INT64) {
291                                         ok = lo_message_add_double (msg, (int64_t) luaL_checknumber(L, i));
292                                 }
293                                 break;
294                         default:
295                                 break;
296                 }
297                 if (ok != 0) {
298                         return luaL_argerror (L, i, "type description does not match parameter");
299                 }
300         }
301
302         int rv = lo_send_message (luaosc->_addr, path, msg);
303         lo_message_free (msg);
304         luabridge::Stack<bool>::push (L, (rv == 0));
305         return 1;
306 }
307
308 static double hue2rgb (const double p, const double q, double t) {
309         if (t < 0.0) t += 1.0;
310         if (t > 1.0) t -= 1.0;
311         if (t < 1.0 / 6.0) return p + (q - p) * 6.0 * t;
312         if (t < 1.0 / 2.0) return q;
313         if (t < 2.0 / 3.0) return p + (q - p) * (2.0 / 3.0 - t) * 6.0;
314         return p;
315 }
316
317 int
318 ARDOUR::LuaAPI::hsla_to_rgba (lua_State *L)
319 {
320         int top = lua_gettop(L);
321         if (top < 3) {
322                 return luaL_argerror (L, 1, "invalid number of arguments, :hsla_to_rgba (h, s, l [,a])");
323         }
324         double h = luabridge::Stack<double>::get (L, 1);
325         double s = luabridge::Stack<double>::get (L, 2);
326         double l = luabridge::Stack<double>::get (L, 3);
327         double a = 1.0;
328         if (top > 3) {
329                 a = luabridge::Stack<double>::get (L, 4);
330         }
331
332         // we can't use ArdourCanvas::hsva_to_color here
333         // besides we want HSL not HSV and without intermediate
334         // color_to_rgba (rgba_to_color ())
335         double r,g,b;
336         const double cq = l < 0.5 ? l * (1 + s) : l + s - l * s;
337         const double cp = 2.f * l - cq;
338         r = hue2rgb (cp, cq, h + 1.0 / 3.0);
339         g = hue2rgb (cp, cq, h);
340         b = hue2rgb (cp, cq, h - 1.0 / 3.0);
341
342         luabridge::Stack<double>::push (L, r);
343         luabridge::Stack<double>::push (L, g);
344         luabridge::Stack<double>::push (L, b);
345         luabridge::Stack<double>::push (L, a);
346         return 4;
347 }
348
349 luabridge::LuaRef::Proxy&
350 luabridge::LuaRef::Proxy::clone_instance (const void* classkey, void* p) {
351   lua_rawgeti (m_L, LUA_REGISTRYINDEX, m_tableRef);
352   lua_rawgeti (m_L, LUA_REGISTRYINDEX, m_keyRef);
353
354         luabridge::UserdataPtr::push_raw (m_L, p, classkey);
355
356   lua_rawset (m_L, -3);
357   lua_pop (m_L, 1);
358   return *this;
359 }
360
361 LuaTableRef::LuaTableRef () {}
362 LuaTableRef::~LuaTableRef () {}
363
364 int
365 LuaTableRef::get (lua_State* L)
366 {
367         luabridge::LuaRef rv (luabridge::newTable (L));
368         for (std::vector<LuaTableEntry>::const_iterator i = _data.begin (); i != _data.end (); ++i) {
369                 switch ((*i).keytype) {
370                         case LUA_TSTRING:
371                                 assign(&rv, i->k_s, *i);
372                                 break;
373                         case LUA_TNUMBER:
374                                 assign(&rv, i->k_n, *i);
375                                 break;
376                 }
377         }
378         luabridge::push (L, rv);
379         return 1;
380 }
381
382 int
383 LuaTableRef::set (lua_State* L)
384 {
385         if (!lua_istable (L, -1)) { return luaL_error (L, "argument is not a table"); }
386         _data.clear ();
387
388         lua_pushvalue (L, -1);
389         lua_pushnil (L);
390         while (lua_next (L, -2)) {
391                 lua_pushvalue (L, -2);
392
393                 LuaTableEntry s (lua_type(L, -1), lua_type(L, -2));
394                 switch (lua_type(L, -1)) {
395                         case LUA_TSTRING:
396                                 s.k_s = luabridge::Stack<std::string>::get (L, -1);
397                                 break;
398                                 ;
399                         case LUA_TNUMBER:
400                                 s.k_n = luabridge::Stack<unsigned int>::get (L, -1);
401                                 break;
402                         default:
403                                 // invalid key
404                                 lua_pop (L, 2);
405                                 continue;
406                 }
407
408                 switch(lua_type(L, -2)) {
409                         case LUA_TSTRING:
410                                 s.s = luabridge::Stack<std::string>::get (L, -2);
411                                 break;
412                         case LUA_TBOOLEAN:
413                                 s.b = lua_toboolean (L, -2);
414                                 break;
415                         case LUA_TNUMBER:
416                                 s.n = lua_tonumber (L, -2);
417                                 break;
418                         case LUA_TUSERDATA:
419                                 {
420                                         bool ok = false;
421                                         lua_getmetatable (L, -2);
422                                         lua_rawgetp (L, -1, luabridge::getIdentityKey ());
423                                         if (lua_isboolean (L, -1)) {
424                                                 lua_pop (L, 1);
425                                                 const void* key = lua_topointer (L, -1);
426                                                 lua_pop (L, 1);
427                                                 void const* classkey = findclasskey (L, key);
428
429                                                 if (classkey) {
430                                                         ok = true;
431                                                         s.c = classkey;
432                                                         s.p = luabridge::Userdata::get_ptr (L, -2);
433                                                 }
434                                         }  else {
435                                                 lua_pop (L, 2);
436                                         }
437
438                                         if (ok) {
439                                                 break;
440                                         }
441                                         // invalid userdata -- fall through
442                                 }
443                                 // no break
444                         case LUA_TFUNCTION: // no support -- we could... string.format("%q", string.dump(value, true))
445                         case LUA_TTABLE: // no nested tables, sorry.
446                         case LUA_TNIL: // fallthrough
447                         default:
448                                 // invalid value
449                                 lua_pop (L, 2);
450                                 continue;
451                 }
452
453                 _data.push_back(s);
454                 lua_pop (L, 2);
455         }
456         return 0;
457 }
458
459 void*
460 LuaTableRef::findclasskey (lua_State *L, const void* key)
461 {
462         lua_pushvalue(L, LUA_REGISTRYINDEX);
463         lua_pushnil (L);
464         while (lua_next (L, -2)) {
465                 lua_pushvalue (L, -2);
466                 if (lua_topointer(L, -2) == key) {
467                         void* rv = lua_touserdata (L, -1);
468                         lua_pop (L, 4);
469                         return rv;
470                 }
471                 lua_pop (L, 2);
472         }
473         lua_pop (L, 1);
474         return NULL;
475 }
476
477 template<typename T>
478 void LuaTableRef::assign (luabridge::LuaRef* rv, T key, const LuaTableEntry& s)
479 {
480         switch (s.valuetype) {
481                 case LUA_TSTRING:
482                         (*rv)[key] = s.s;
483                         break;
484                 case LUA_TBOOLEAN:
485                         (*rv)[key] = s.b;
486                         break;
487                 case LUA_TNUMBER:
488                         (*rv)[key] = s.n;
489                         break;
490                 case LUA_TUSERDATA:
491                         (*rv)[key].clone_instance (s.c, s.p);
492                         break;
493                 default:
494                         assert (0);
495                         break;
496         }
497 }