спустя пару дней история с глюками матриц продолжилась, в итоге убрал все разъемы на пути от драйверов матриц до платы с ESP (как наиболее вероятные источники помех), дополнительно напаял между CLK и GND резистор 10 кОм, собрал, тестирую, пока все ок.