Palette uczy mały model tworzenia prezentacji w języku projektowania firmy

Palette uczy mały model tworzenia prezentacji w języku projektowania firmy
3 min czytania

Palette to model generowania prezentacji wywodzący się z otwartego modelu o wadze 20B, czyli takiego, którego wagi są dostępne i który może działać na własnej infrastrukturze. Jego autorzy wytrenowali go do tworzenia slajdów w języku projektowania IBM. W benchmarku PresentBench zajmuje pierwsze miejsce w dwóch z trzech mierzonych dziedzin i drugie w średniej z trzech dziedzin, za NotebookLM.

Poproszenie dużego modelu językowego o prezentację zazwyczaj daje poprawny wynik, ale produkcje w końcu zaczynają być do siebie podobne od zapytania do zapytania, z rozpoznawalnym, domowym stylem. Dla firmy, która chce przestrzegać własnego wzorca prezentacji lub musi przechowywać poufne treści na swoich serwerach, to podejście szybko osiąga swoje granice. Małe, otwarte modele często produkują wadliwe slajdy: tytuły zatopione w tle, tekst wychodzący poza ramy, nakładające się kształty.

Projektant i koder

Problem wynika z trzech trudności. Model nie widzi slajdu, który tworzy: pisze kod, który umieszcza każdy element w danej pozycji, szerokości i rozmiarze czcionki, i odkrywa swoje błędy dopiero po renderowaniu. Musi też podejmować dwa rodzaje decyzji jednocześnie: redakcyjne (co powiedzieć, jaki wykres wybrać) i geometryczne (gdzie umieścić elementy). W końcu brakowało danych treningowych: gotowe prezentacje istnieją, ale nie ma powodów wyborów projektowych ani kodu, który je wyprodukował.

Palette stosuje metodę człowieka. Projektant ustala plan i sporządza ustrukturyzowany brief w formacie JSON, który określa paletę, system typograficzny oraz dla każdego slajdu układ, treść i krótkie uzasadnienie. Koder następnie pisze dla każdego slajdu kod pptxgenjs, który go rysuje, poprzedzony swoim rozumowaniem. Obie role pełni jeden adapter LoRA, mała warstwa treningowa dodana do modelu bazowego bez modyfikacji jego wag. Ponieważ wywołania kodera są uruchamiane równolegle, po jednej prezentacji na slajd, etap kodowania byłby, według autorów, około 6 do 7 razy szybszy.

Dane syntetyczne i kontroler

Z braku publicznego korpusu, zespół wygenerował około 1000 prezentacji, czyli blisko 10 000 slajdów, przy użyciu dużego, otwartego modelu « nauczycielskiego ». Każdy przykład towarzyszy kontrfaktycznemu rozumowaniu, które wspomina alternatywę i wyjaśnia, dlaczego została odrzucona. Gdy wygenerowany slajd ma wadę, jest korygowany, a jego rozumowanie jest odpowiednio przepisywane.

Aby zapewnić wierność źródłowej treści, autorzy stwierdzili, że sama reguła w podpowiedzi nie wystarczy. To, co zadziałało, to korekta referencyjnych prezentacji dostarczonych nauczycielowi, który znacznie częściej je kopiuje, niż podąża za instrukcjami. Użytkownicy mogą też kierować wynikiem za pomocą dyrektyw pisanych w podwójnych nawiasach kwadratowych, jak « [] ». Te dyrektywy, podzielone na dwanaście kategorii, są formułowane na różne sposoby w danych treningowych.

Zanim zwróci prezentację, Palette przechodzi przez system weryfikacji. Proste reguły korygują znane błędy, następnie każdy slajd jest renderowany i mierzony przez kontroler geometryczny, który sygnalizuje nakładające się, przycięte lub wychodzące poza stronę teksty. Zasygnalizowane slajdy są przepisywane przez oddzielny model edytujący, ale przepisanie jest zachowywane tylko wtedy, gdy kontroler potwierdzi poprawę. Na 131 prezentacjach z PresentBench, system dodaje średnio 3,5 punktu.

Zróżnicowane wyniki

PresentBench ocenia pięć kryteriów: podstawy, projekt wizualny, kompletność, dokładność i wierność. Palette osiąga swoje najlepsze miejsce w dziedzinach Ekonomia i Edukacja. Natomiast w dziedzinie Talk, gdzie prezentacje mają charakter narracyjny, wyprzedzają go dwa zamknięte systemy i zajmuje trzecie miejsce. Średnia z trzech dziedzin plasuje go na 59,7, wobec 60,8 dla NotebookLM.

Autorzy wskazują, że kolejne kroki obejmują wykorzystanie kontroli systemu weryfikacji jako sygnałów nagrody dla uczenia przez wzmocnienie typu GRPO, a także ekstrakcję figur z dokumentów źródłowych za pomocą Docling.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x