На фото показан конденсатор, который поставлен в параллель к "510Р".
И вот с ним всё работает, а без него 540-570 вольт.
Ура! Убрал свист.
Поставил индуктивность на 960 uh.
Судя по моим подсчётам при использовании тех номиналов, что стоят в схеме, частота переключения составляет примерно 70кГц. Выходное напряжение определяется соотношением 1,25*(1+(R5+R6)/R2) - нотация по схеме первого сообщения, то есть если у Вас там было такое высокое напряжение, значит что-то не так в делителе, есть ещё вероятность, что была поставлена маленькая индуктивность, длительность импульса активного цикла уже была настолько маленькой, что не могла регулироваться микросхемой (вторая альтернатива видится мне не очень реалистичной).
Когда Вы поставили параллельно 510пФ конденсатор в 4200пФ общая ёмкость стала 4710пФ и частота снизилась до примерно 8кГц, то есть, стала находиться в слышимом диапазоне. При этом минимальная индуктивность катушки по расчётам должна была составить 860мкГн, т.е., если у Вас там была меньшая индуктивность, она быстро уходила в насыщение, ток резко возрастал и механические пульсации витков выдавали свист. Вы поставили индуктивность больше минимальной в результате и вывели снова преобразователь в номинальный режим, но с гораздо меньшей частотой переключения. По хорошему бы тогда немного увеличить C10 нужно.
Остаётся вопрос правильной работы делителя - вполне возможно, что текущая комбинация факторов привела к тому, что больше того, что сейчас выдаётся, просто не может получится в принципе и делитель продолжает не работать. В-общем, нужно, конечно, проверять, что там сейчас получилось.