Стратегія даних Photoroom PRX: стиснення JPEG 92 та шардинг Lance-MDS
Photoroom опублікував деталі конвеєра даних для навчання 7B мультимодальної моделі PRX. Практика доводить, що зберігання у форматі JPEG 92 практично не відрізняється від PNG при зменшенні розміру в 3-10 разів, з використанням Lance для аналізу даних та Mosaic MDS для потокового навчання.
Чому це важливо
Демонструє методи оптимізації зберігання величезних наборів зображень без втрати якості моделі, поєднуючи інтерактивну обробку даних (Lance) з високою пропускною здатністю (MDS).
TL;DR
- 01JPEG 92 — це ефективна альтернатива PNG для навчання моделей.
- 02Lance краще підходить для інтерактивного дослідження даних, а MDS — для стрімінгу.
- 03Динамічне обчислення текстових латентів забезпечує гнучкість за ціною мінімальних втрат продуктивності (3-4%).
Розділення дослідження та стрімінгу: Lance + MDS
Photoroom використовує гібридну архітектуру:
- Lance: Стовпчиковий формат даних, оптимізований для інтерактивного проектування ознак та векторного пошуку.
- Mosaic MDS: Використовується для стрімінгу шардів датасету безпосередньо на вузли SLURM. Через жорсткість MDS, Lance використовується для підготовки та курирування даних.
Порівняння стиснення: PNG проти JPEG 92
Photoroom порівняли JPEG 92 з PNG:
- Непомітна деградація: JPEG 92 швидко стабілізується, а деградація залишається непомітною. Файли PNG у 3-10 разів більші без жодних переваг для якості навчання.
- Тест квантування: Генерації моделей, навчених на PNG та JPEG 92, були ідентичними; лише близько 1 з 10 генерацій у будь-якої моделі мала ознаки квантування.
Обчислення текстових латентів на льоту через Qwen3-VL
Динамічне обчислення латентів з Qwen3-VL спричинило лише 3-4% втрати швидкості (близько 1 додаткового дня на 30-денний цикл), дозволяючи замінювати текстовий енкодер без перезапису терабайтів латентів та зберігати дані на локальних SSD.