Oleksandr Kuzmenko, РедакторОпубліковано 7 хв читанняЗа участі AI · перевірено редактором
TL;DR
- Palette розділяє генерацію на дві ролі (дизайнер для JSON-брифу та кодер для pptxgenjs), що реалізовані через один LoRA-адаптер.
- Попередня генерація брифу дозволяє запускати генерацію коду слайдів паралельно, прискорюючи етап кодування в 6–7 разів.
- Детермінований геометричний harness перевіряє слайди та залишає правки лише у разі реального покращення, додаючи в середньому 3.5 бала на PresentBench.
Ключові факти
- Розмір базової моделі
- 20B параметрів
- Метод донавчання
- Адаптер LoRA
- Синтетичний датасет
- ~1 000 презентацій (~10 000 слайдів)
- Прискорення паралелізації
- У 6–7 разів на етапі кодування
- Вплив чекера
- +3.5 бала на PresentBench
Джерело: Ключові факти — Розмір базової моделі
Джерело: Ключові факти. Розмір базової моделі: 20B параметрів. Кожне число скопійоване з історії.
- Розмір базової моделі20B параметрів
Архітектура LoRA: поділ на дизайнера та кодера
Створення слайдів вимагає одночасного редакційного вибору (скорочення контенту, вибір між таблицями й графіками) та просторової геометрії. Palette реалізує цей процес за допомогою єдиного LoRA-адаптера у двох режимах:
1. Дизайнер: зчитує вхідний план і користувацькі директиви (наприклад, [[make this a timeline]]), формуючи структурований JSON-бриф із палітрою, типографікою, макетом кожного слайда та обґрунтуванням дизайну. 2. Кодер: отримує специфікацію конкретного слайда й генерує виконуваний JavaScript-код для бібліотеки pptxgenjs, якому передує reasoning-трасування.
Оскільки специфікації фіксуються заздалегідь, рендеринг коду виконується повністю паралельно, що скорочує час генерації коду в 6–7 разів.
Синтетичні дані з контрфактуальним reasoning
Команда синтезувала близько 1 000 презентацій (~10 000 слайдів) за допомогою відкритої моделі-вчителя за стандартами IBM Design Language. Кожен приклад містить покрокове обґрунтування вибору:
- Дизайнер пояснює, чому для відображення квартального тренду обрано стовпчасту діаграму замість таблиці.
- Дизайнер також прораховує геометрію: заголовок на 62 символи при 44pt перенесеться на три рядки й накладеться на графік, тому встановлено кегль 36pt.
Оскільки код слайдів приблизно уп'ятеро довший за бриф дизайнера, датасет дизайнера було оверсемпльовано у 5 разів для збалансованого навчання.
Геометричний чекер та результати PresentBench
Palette пропускає згенерований результат через детермінований harness перед фінальним поверненням. Слайди візуалізуються та перевіряються на накладання елементів чи вихід за межі полотна. У разі помилок модель-редактор переписує код, але зміна зберігається лише тоді, коли чекер підтверджує покращення. На 131 презентації в бенчмарку PresentBench такий підхід додав у середньому 3.5 бала, посівши перше місце у двох із трьох категорій.