Шаблони чату визначають відмови LLM, а керування активаціями їх вимикає

Дослідження показало, що стандартні шаблони чату слугують перемикачем для дисклеймерів на кшталт 'Я штучний інтелект' у 8 відкритих інструктивних моделях розміром до 9B параметрів. Видалення виділеного вектора керування активаціями вимикає цей тон застережень, тоді як випадковий вектор аналогічної довжини майже не дає ефекту.