Видно, что лезет мощная паразитная гармоника с периодом ~18ms. Вот так она выглядит в спектральной области.
Частота - 60 Гц, что совпадает с моей частотой в розетке. И слегка лезет вторая гармоника, на частоте 120 Гц. При других скоростях шпинделя мощность помехи меняется, но ее частота - те же 60 Гц. А продолжать исследования точности энкодера с такой мощной помехой нет смысла, надо сначала помеху победить. Не думал, что пакость будет такой мощной: корпус коллекторника - сталь 1мм, коллекторник и энкодер разделяет 2мм стальная пластина плюс дюралевый корпус энкодера. Кроме того, провода энкодера экранированы.
Не было печали, теперь придется думать на предмет 120в фильтра на коллекторник токарничка. И искать оптимальную точку заземления.