Не помогло)
Перебрал все варианты. Изначальный остался лучшим. Ну, собственно, двухканальный осциллограф это подтвердил - сигналы датчиков Холла каждой фазы совпадали по времени с сигналами на самих фазах.
Был еще один вариант, когда движок сменил направление вращения и работал плавно, но при этом скорость была еще значительно меньше.
Вообще, обращает на себя внимание тот факт, что на максимальной скорости потребляемый ток на холостом ходу колеблется в районе 0,9А. Хотя, по информации встречавшейся на форуме, он должен быть больше, например около 1,5А. Подумалось мне, что "тигру не докладывают мяса". Тот же осциллограф показал, что на максимальной скорости сигнал ШИМ не со 100% заполнением - на глаз процентов 5-10 не хватает до полного. Но даже с другим контроллером, у которого на выходе всё по полной, максимальная скорость была около 10000 об/мин. Все больше и больше склоняюсь к мысли, что на данном конкретном движке намотали несколько больше витков чем должно быть. Напрягает то, что после перемотки температура движка еще повысится. Но, доберусь и до обмоток.
Плохо то, что приболел - работоспособность снижается.