aiXcoder-7B — это компактная, но мощная языковая модель для автодополнения кода, превосходящая по точности многих тяжеловесных конкурентов. Благодаря методу обучения SFIM, этот ИИ глубоко понимает синтаксическую структуру, делая процесс разработки быстрее и чище.
Compared to existing LLMs, aiXcoder-7B achieves higher code completion accuracy while having smaller scales (i.e., 7 billion parameters). We attribute the superiority of aiXcoder-7B to three key factors: ❶ Multi-objective training. We employ three training objectives, one of which is our proposed Structured Fill-In-the-Middle (SFIM). SFIM considers the syntax structures in code and effectively improves the performance of LLMs for code. ❷ Diverse data sampling strategies. They consider inter-file relationships and enhance the capability of LLMs in understanding cross-file contexts. ❸ Extensive high-quality data.