fix mistaken "do not roll" conclusion in TransportFSM::compute_should_roll()
[ardour.git] / scripts / HiAndLowPass.lua
index 58908edd2381767520a526cb20793c2007872ff4..75704d97016577d5d3ece380903f2db726bf7005 100644 (file)
@@ -1,10 +1,10 @@
 ardour {
        ["type"]    = "dsp",
-       name        = "a-High and Low Pass Filter",
+       name        = "a-High/Low Pass Filter",
        category    = "Filter",
-       license     = "MIT",
+       license     = "GPLv2",
        author      = "Ardour Team",
-       description = [[Example Ardour Lua DSP Plugin]]
+       description = [[High and Low Pass Filter with de-zipped controls, written in Ardour-Lua]]
 }
 
 function dsp_ioconfig ()
@@ -49,9 +49,11 @@ end
 local hp = {}  -- the biquad high-pass filter instances (DSP)
 local lp = {}  -- the biquad high-pass filter instances (DSP)
 local filt = nil -- the biquad filter instance (GUI, response)
-local cur = {0, 0, 0, 0, 0, 0, 0} -- current parameters
+local cur = {0, 0, 0, 0, 0, 0} -- current parameters
 local lpf = 0.03 -- parameter low-pass filter time-constant
 local chn = 0 -- channel/filter count
+local lpf_chunk = 0 -- chunk size for audio processing when interpolating parameters
+local max_freq = 20000
 
 local mem = nil -- memory x-fade buffer
 
@@ -59,34 +61,77 @@ function dsp_init (rate)
        -- allocate some mix-buffer
        mem = ARDOUR.DSP.DspShm (8192)
 
+       -- max allowed cut-off frequency
+       max_freq = .499 * rate
+
        -- create a table of objects to share with the GUI
        local tbl = {}
-       tbl['rb'] = rb
        tbl['samplerate'] = rate
+       tbl['max_freq'] = max_freq
        self:table ():set (tbl)
 
-       -- interpolation time constant
-       lpf = 13000 / rate
+
+       -- Parameter smoothing: we want to filter out parameter changes that are
+       -- faster than 15Hz, and interpolate between parameter values.
+       -- For performance reasons, we want to ensure that two consecutive values
+       -- of the interpolated "steepness" are less that 1 apart. By choosing the
+       -- interpolation chunk size to be 64 in most cases, but 32 if the rate is
+       -- strictly less than 22kHz (there's only 8kHz in standard rates), we can
+       -- ensure that steepness interpolation will never change the parameter by
+       -- more than ~0.86.
+       lpf_chunk = 64
+       if rate < 22000 then lpf_chunk = 32 end
+       -- We apply a discrete version of the standard RC low-pass, with a cutoff
+       -- frequency of 15Hz. For more information about the underlying math, see
+       -- https://en.wikipedia.org/wiki/Low-pass_filter#Discrete-time_realization
+       -- (here Δt is lpf_chunk / rate)
+       local R = 2 * math.pi * lpf_chunk * 15 -- Hz
+       lpf = R / (R + rate)
 end
 
 function dsp_configure (ins, outs)
        assert (ins:n_audio () == outs:n_audio ())
        local tbl = self:table ():get () -- get shared memory table
-       local rate = tbl['samplerate']
 
        chn = ins:n_audio ()
+       cur = {0, 0, 0, 0, 0, 0}
+
+       hp = {}
+       lp = {}
+
+       collectgarbage ()
 
        for c = 1, chn do
                hp[c] = {}
                lp[c] = {}
                -- initialize filters
                -- http://manual.ardour.org/lua-scripting/class_reference/#ARDOUR:DSP:Biquad
+
+               -- A different Biquad is needed for each pass and channel because they
+               -- remember the last two samples seen during the last call of Biquad:run().
+               -- For continuity these have to come from the previous audio chunk of the
+               -- same channel and pass and would be clobbered if the same Biquad was
+               -- called several times by cycle.
                for k = 1,4 do
-                       hp[c][k] = ARDOUR.DSP.Biquad (rate)
-                       lp[c][k] = ARDOUR.DSP.Biquad (rate)
+                       hp[c][k] = ARDOUR.DSP.Biquad (tbl['samplerate'])
+                       lp[c][k] = ARDOUR.DSP.Biquad (tbl['samplerate'])
                end
        end
-       cur = {0, 0, 0, 0, 0, 0}
+end
+
+function santize_params (ctrl)
+       -- don't allow manual cross-fades. enforce enums
+       ctrl[1] = math.floor(ctrl[1] + .5)
+       ctrl[4] = math.floor(ctrl[4] + .5)
+
+       -- high pass, clamp range
+       ctrl[2] = math.min (max_freq, math.max (5, ctrl[2]))
+       ctrl[3] = math.min (6, math.max (0.1, ctrl[3]))
+
+       -- low pass, clamp range
+       ctrl[5] = math.min (max_freq, math.max (20, ctrl[5]))
+       ctrl[6] = math.min (6, math.max (0.1, ctrl[6]))
+       return ctrl
 end
 
 -- helper functions for parameter interpolation
@@ -132,79 +177,85 @@ end
 
 -- the actual DSP callback
 function dsp_run (ins, outs, n_samples)
-       assert (n_samples < 8192)
+       assert (n_samples <= 8192)
+       assert (#ins == chn)
+       local ctrl = santize_params (CtrlPorts:array ())
+
        local changed = false
        local siz = n_samples
        local off = 0
 
-       -- if a parameter was changed, process at most 64 samples at a time
-       -- and interpolate parameters until the current settings match
-       -- the target values
-       if param_changed (CtrlPorts:array ()) then
+       -- if a parameter was changed, process at most lpf_chunk samples
+       -- at a time and interpolate parameters until the current settings
+       -- match the target values
+       if param_changed (ctrl) then
                changed = true
-               siz = 64
+               siz = lpf_chunk
        end
 
        while n_samples > 0 do
-               if changed then apply_params (CtrlPorts:array ()) end
+               if changed then apply_params (ctrl) end
                if siz > n_samples then siz = n_samples end
 
                local ho = math.floor(cur[1])
                local lo = math.floor(cur[4])
-               local hox = cur[1]
-               local lox = cur[4]
 
                -- process all channels
                for c = 1, #ins do
 
-                       local xfade = hox - ho
-                       assert (xfade >= 0 and xfade < 1)
+                       -- High Pass
+                       local xfade = cur[1] - ho
 
+                       -- prepare scratch memory
                        ARDOUR.DSP.copy_vector (mem:to_float (off), ins[c]:offset (off), siz)
 
-                       -- initialize output
-                       if hox == 0 then
-                               ARDOUR.DSP.copy_vector (outs[c]:offset (off), mem:to_float (off), siz)
-                       else
-                               ARDOUR.DSP.memset (outs[c]:offset (off), 0, siz)
-                       end
-
-                       for k = 1,4 do
-                               if xfade > 0 and k > ho and k <= ho + 1 then
-                                       ARDOUR.DSP.mix_buffers_with_gain (outs[c]:offset (off), mem:to_float (off), siz, 1 - xfade)
-                               end
-
+                       -- run at least |ho| biquads...
+                       for k = 1,ho do
                                hp[c][k]:run (mem:to_float (off), siz)
-
-                               if k == ho and xfade == 0 then
-                                       ARDOUR.DSP.copy_vector (outs[c]:offset (off), mem:to_float (off), siz)
-                               elseif k > ho and k <= ho + 1 then
-                                       ARDOUR.DSP.mix_buffers_with_gain (outs[c]:offset (off), mem:to_float (off), siz, xfade)
-                               end
+                       end
+                       ARDOUR.DSP.copy_vector (outs[c]:offset (off), mem:to_float (off), siz)
+
+                       -- mix the output of |ho| biquads (with weight |1-xfade|)
+                       -- with the output of |ho+1| biquads (with weight |xfade|)
+                       if xfade > 0 then
+                               ARDOUR.DSP.apply_gain_to_buffer (outs[c]:offset (off), siz, 1 - xfade)
+                               hp[c][ho+1]:run (mem:to_float (off), siz)
+                               ARDOUR.DSP.mix_buffers_with_gain (outs[c]:offset (off), mem:to_float (off), siz, xfade)
+                               -- also run the next biquad because it needs to have the correct state
+                               -- in case it start affecting the next chunck of output. Higher order
+                               -- ones are guaranteed not to be needed for the next run because the
+                               -- interpolated order won't increase more than 0.86 in one step thanks
+                               -- to the choice of the value of |lpf|.
+                               if ho + 2 <= 4 then hp[c][ho+2]:run (mem:to_float (off), siz) end
+                       elseif ho + 1 <= 4 then
+                               -- run the next biquad in case it is used next chunk
+                               hp[c][ho+1]:run (mem:to_float (off), siz)
                        end
 
-                       -- low pass
-                       xfade = lox - lo
-                       assert (xfade >= 0 and xfade < 1)
+                       -- Low Pass
+                       xfade = cur[4] - lo
 
+                       -- prepare scratch memory (from high pass output)
                        ARDOUR.DSP.copy_vector (mem:to_float (off), outs[c]:offset (off), siz)
 
-                       if lox > 0 then
-                               ARDOUR.DSP.memset (outs[c]:offset (off), 0, siz)
-                       end
-
-                       for k = 1,4 do
-                               if xfade > 0 and k > lo and k <= lo + 1 then
-                                       ARDOUR.DSP.mix_buffers_with_gain (outs[c]:offset (off), mem:to_float (off), siz, 1 - xfade)
-                               end
-
+                       -- run at least |lo| biquads...
+                       for k = 1,lo do
                                lp[c][k]:run (mem:to_float (off), siz)
-
-                               if k == lo and xfade == 0 then
-                                       ARDOUR.DSP.copy_vector (outs[c]:offset (off), mem:to_float (off), siz)
-                               elseif k > lo and k <= lo + 1 then
-                                       ARDOUR.DSP.mix_buffers_with_gain (outs[c]:offset (off), mem:to_float (off), siz, xfade)
-                               end
+                       end
+                       ARDOUR.DSP.copy_vector (outs[c]:offset (off), mem:to_float (off), siz)
+
+                       -- mix the output of |lo| biquads (with weight |1-xfade|)
+                       -- with the output of |lo+1| biquads (with weight |xfade|)
+                       if xfade > 0 then
+                               ARDOUR.DSP.apply_gain_to_buffer (outs[c]:offset (off), siz, 1 - xfade)
+                               lp[c][lo+1]:run (mem:to_float (off), siz)
+                               ARDOUR.DSP.mix_buffers_with_gain (outs[c]:offset (off), mem:to_float (off), siz, xfade)
+                               -- also run the next biquad in case it start affecting the next
+                               -- chunck of output.
+                               if lo + 2 <= 4 then lp[c][lo+2]:run (mem:to_float (off), siz) end
+                       elseif lo + 1 <= 4 then
+                               -- run the next biquad in case it is used next chunk
+                               lp[c][lo+1]:run (mem:to_float (off), siz)
                        end
 
                end
@@ -228,12 +279,12 @@ function round (n)
 end
 
 function freq_at_x (x, w)
-       -- x-axis pixel for given freq, power-scale
+       -- frequency in Hz at given x-axis pixel
        return 20 * 1000 ^ (x / w)
 end
 
 function x_at_freq (f, w)
-       -- frequency at given x-axis pixel
+       -- x-axis pixel for given frequency, power-scale
        return w * math.log (f / 20.0) / math.log (1000.0)
 end
 
@@ -246,6 +297,7 @@ end
 
 function grid_db (ctx, w, h, db)
        -- draw horizontal grid line
+       -- note that a cairo pixel at Y spans [Y - 0.5 to Y + 0.5]
        local y = -.5 + round (db_to_y (db, h))
        ctx:move_to (0, y)
        ctx:line_to (w, y)
@@ -261,8 +313,10 @@ function grid_freq (ctx, w, h, f)
 end
 
 function response (ho, lo, f)
-               local db = ho * filt['hp']:dB_at_freq (f)
-               return db + lo * filt['lp']:dB_at_freq (f)
+       -- calculate transfer function response for given
+       -- hi/po pass order at given frequency [Hz]
+       local db = ho * filt['hp']:dB_at_freq (f)
+       return db + lo * filt['lp']:dB_at_freq (f)
 end
 
 function render_inline (ctx, w, max_h)
@@ -272,11 +326,12 @@ function render_inline (ctx, w, max_h)
                filt = {}
                filt['hp'] = ARDOUR.DSP.Biquad (tbl['samplerate'])
                filt['lp'] = ARDOUR.DSP.Biquad (tbl['samplerate'])
+               max_freq   = tbl['max_freq']
        end
 
+       local ctrl = santize_params (CtrlPorts:array ())
        -- set filter coefficients if they have changed
-       if param_changed (CtrlPorts:array ()) then
-               local ctrl = CtrlPorts:array ()
+       if param_changed (ctrl) then
                for k = 1,6 do cur[k] = ctrl[k] end
                filt['hp']:compute (ARDOUR.DSP.BiquadType.HighPass, cur[2], cur[3], 0)
                filt['lp']:compute (ARDOUR.DSP.BiquadType.LowPass,  cur[5], cur[6], 0)
@@ -297,8 +352,6 @@ function render_inline (ctx, w, max_h)
        ctx:clip ()
 
        -- set line width: 1px
-       -- Note: a cairo pixel at [1,1]  spans [0.5->1.5 , 0.5->1.5]
-       -- hence the offset -0.5 in various move_to(), line_to() calls
        ctx:set_line_width (1.0)
 
        -- draw grid
@@ -306,10 +359,10 @@ function render_inline (ctx, w, max_h)
        local dash2 = C.DoubleVector ()
        dash2:add ({1, 2})
        dash3:add ({1, 3})
-       ctx:set_dash (dash2, 2) -- dotted line
+       ctx:set_dash (dash2, 2) -- dotted line: 1 pixel 2 space
        ctx:set_source_rgba (.5, .5, .5, .8)
        grid_db (ctx, w, h, 0)
-       ctx:set_dash (dash3, 2) -- dotted line
+       ctx:set_dash (dash3, 2) -- dashed line: 1 pixel 3 space
        ctx:set_source_rgba (.5, .5, .5, .5)
        grid_db (ctx, w, h, -12)
        grid_db (ctx, w, h, -24)
@@ -319,16 +372,17 @@ function render_inline (ctx, w, max_h)
        grid_freq (ctx, w, h, 10000)
        ctx:unset_dash ()
 
+       -- draw transfer function line
        local ho = math.floor(cur[1])
        local lo = math.floor(cur[4])
 
-       -- draw transfer function line
        ctx:set_source_rgba (.8, .8, .8, 1.0)
        ctx:move_to (-.5, db_to_y (response(ho, lo, freq_at_x (0, w)), h))
        for x = 1,w do
                local db = response(ho, lo, freq_at_x (x, w))
                ctx:line_to (-.5 + x, db_to_y (db, h))
        end
+       -- stoke a line, keep the path
        ctx:stroke_preserve ()
 
        -- fill area to zero under the curve