Для начала попробуй измерить саму звуковую карту через Loopback(кабель с выхода на вход). Лучше всего на 44,1кГц, там меньше всего помех и шумов. С SpectraPlus не помогу, работал с ней давно, уже ничего не помню. Может для начала попробуешь RMAA, там с подстройкой уровней гемор, но все таки она намного проще, чем SpectraPlus. А звуковуха у меня такая же.