ONNX Runtime

Кросс-платформенный движок для инференса ML-моделей от Microsoft. Поддерживает модели из PyTorch, TensorFlow, scikit-learn через формат ONNX.