Мария Молчанова
← Назад

Научная работа

Enhancing Small Language Models in RAG via Triplet-Guided In-Context Distillation

GroundLM 2026 при Конференции 2026 года по эмпирическим методам обработки естественного языка (EMNLP 2026)

Принята · EMNLP 2026 workshop2026

Работа принята на GroundLM 2026 — международный воркшоп при EMNLP 2026.

Работа предлагает TripletRAG — метод, который переносит полезные паттерны работы большой языковой модели в RAG-систему на базе компактной модели без fine-tuning. Большая модель заранее создаёт триплеты «синтетический вопрос — найденные фрагменты — эталонный ответ», а затем релевантные триплеты используются как структурированные in-context примеры во время инференса.

Эксперименты на SQuAD и Natural Questions показывают наиболее выраженный эффект для моделей порядка 1B–3B параметров: растут groundedness и judge-based accuracy. Абляции показывают, что выигрыш связан не просто с форматом few-shot prompting, а с семантической релевантностью примеров и опорой на retrieved evidence.

Статус площадки

GroundLM 2026 @ The 2026 Conference on Empirical Methods in Natural Language Processing

EMNLP — одна из ведущих ежегодных международных конференций по обработке естественного языка. GroundLM объединяет исследования по RAG, grounding, factuality, hallucination mitigation, эффективному обучению и оценке надёжности LLM.

Актуальный статус

Ссылка будет обновлена

До проведения воркшопа основной публичной ссылкой остаётся OpenReview. После выхода материалов GroundLM 2026 ссылка на сайте будет обновлена на финальную страницу публикации.

Ссылки

Официальные материалы