Специализированная языковая модель от Trend Micro, дообученная на колоссальном массиве данных по кибербезопасности (более 10 млрд токенов). Благодаря методу слияния DELLA, этот ИИ демонстрирует выдающиеся результаты в защите цифровых систем и ответах на сложные технические вопросы.
The Llama-Primus-Nemotron series builds upon nvidia/Llama-3.1-Nemotron-70B-Instruct through continued training. Following the same methodology as described in the Primus paper, we first performed pre-training on large-scale cybersecurity corpora (over 10B tokens) to obtain Llama-Primus-Nemotron-Base. We then conducted supervised-finetuning and applied DELLA to merge with the original Nemotron, resulting in Llama-Primus-Nemotron-70B-Instruct. Llama-Primus-Nemotron-Base achieves an 11.19% improvement in aggregate scores across several public cybersecurity benchmarks.