Эксперимент: Изменение фактов в нейросети GPT-2 XL методом ROME

Обновление знаний в больших языковых моделях (LLM) — сложная и ресурсоемкая задача, так как обычно требует полного переобучения или дообучения модели. Однако недавний материал на Habr продемонстрировал метод точечного редактирования ROME (Rank-One Model Editing), который позволяет вносить конкретные фактические изменения без необходимости дорогостоящего процесса переобучения.

Суть эксперимента заключалась в том, чтобы изменить местоположение Эйфелевой башни в модели GPT-2 XL с Парижа на Рим. После применения метода ROME модель была протестирована с помощью различных запросов о местоположении башни, успешно подтверждая новое, искусственно введенное, знание. Это показало, что ROME способен эффективно модифицировать отдельные фактические утверждения, сохраняя при этом общую целостность модели.