Существующие методы квантования нейронных сетей обычно требуют доступа к исходным обучающим данным, что замедляет процесс и создает риски для конфиденциальности. В данной работе предлагается схема пост-тренировочного квантования, которая полностью независима от реальных данных. Это достигается за счет генерации искусственных (синтетических) данных, имитирующих необходимые статистические распределения. Предложенный подход позволяет эффективно оптимизировать модели для быстрого запуска на устройствах, сохраняя при этом высокий уровень защиты данных.
В работе представлены новые методы гибридного и неравномерного квантования нейросетей для ускорения их работы на мобильных и edge-устройствах. В отличие от аналогов, предложенный алгоритм не требует доступа к исходным обучающим данным, используя синтезированную информацию. Это обеспечивает высокую производительность моделей при полном сохранении конфиденциальности данных.