Красный с подключил в 5 вольт, черный GND, а желтый и зеленый в 0 и 1. Белого нету, наверное вместо него желтый.
Я заметил, что энкодер при кручении всегда возвращается назад в центр, а не остается в месте куда его привело.
Может быть такое, что проблема в самой плате и она не может нормально передать сигналы энкодера на компьютер?