2 хв читання · Hacker News
ThoughtDAG: візуалізація та обрізання графів контексту для діалогів з великими мовними моделями
ThoughtDAG пропонує інтерфейс редагованого спрямованого ациклічного графа для управління історією діалогів з ШІ. Розробники можуть вибирати вузли контексту для наступних запитів, оптимізуючи витрати токенів.
Чому це важливо. Інженери можуть переглядати гілки діалогу, вилучати нерелевантний контекст і зменшувати витрати токенів.