W tekście na blogu badacz AI wyjaśnia, dlaczego inżynieria modeli powinna przyspieszyć w nadchodzących latach, nie zmieniając jednak ich natury. Jego zdaniem, w ciągu kilku lat modele staną się nadludzkimi inżynierami GPU, zdolnymi znacznie ułatwić eksperymentowanie. Uważa też, że kilka obszarów, takich jak efektywność obliczeń i jakość środowisk uczenia przez wzmocnienie, oferuje postępy na wyciągnięcie ręki.
Coraz łatwiejsze badania
Autor zauważa, że badacze z przemysłu często mówią mu, że AI będzie lepsza od nich w ich zawodzie za kilka lat. Przypisuje to przyspieszenie rosnącym zdolnościom modeli w zakresie infrastruktury i inżynierii, z czym się zgadza. Dodaje jednak, że te postępy nie sprawią, że modele staną się radykalnie inne w swojej naturze.
Jego zdaniem, Ilya zapowiedział, pod pewnymi względami, erę badań nad AI zbyt wcześnie. Dziś badania są znacznie prostsze dzięki agentom programującym, narzędziom zdolnym do samodzielnego pisania i modyfikowania kodu. Tekst widzi w tym początek okresu, w którym dobre pomysły mogą być warte więcej niż dobre wykonanie programistyczne.
Autor przypomina, że równowaga między badaniami a inżynierią już w przeszłości się przechyliła. Przed rozkwitem deep learning, AI była głównie domeną badań. Dziś najlepsi badacze są oceniani na podstawie zdolności do wdrażania i skalowania swoich pomysłów w złożonych infrastrukturach. Wspomina o przyspieszeniu « o kilka lat », w którym wąskim gardłem będzie coraz mniej inżynieria.
Efektywność i koszt inteligencji
Dużą część etapów trenowania i inferencji, czyli wykorzystywania modelu do odpowiedzi, można precyzyjnie zmierzyć. Tekst wymienia liczbę tokenów przetwarzanych na sekundę na GPU, liczbę tokenów na zapytanie, FLOPsy na token czy koszt na odpowiedź. Autor uważa, że te wskaźniki są bardzo optymalizowalne i że agenci AI mogliby pomóc w poprawie całego procesu w ciągu kilku lat.
Zyski w efektywności były już znaczące, według tekstu, z na przykład oszczędnościami « rzędu 10 do 30% » na koszcie serwisowania modelu po jego ogłoszeniu po określonej cenie. Autor spodziewa się, że efektywny koszt inteligencji modeli spadnie w sposób niemal wykładniczy, potencjalnie szybciej niż ostatnie trendy. Przewiduje też, że wspólne projektowanie akceleratorów i modeli przyniesie dodatkowe zyski, w dłuższych skalach czasowych.
Tekst twierdzi ponadto, że paradoks Jevonsa, zgodnie z którym wzrost efektywności może zwiększyć popyt, powinien w pełni zadziałać dla modeli agentowych. Autor wymienia agenta Muse firmy Meta jako wczesny znak tego ruchu i przewiduje więcej tego typu eksperymentów dla różnych odbiorców.
Dane i środowiska uczenia
Tekst wspomina w końcu o rynku danych przeznaczonych do uczenia przez wzmocnienie, tych środowisk, w których model uczy się przez próby i nagrody. Kilka firm z tego sektora miałoby przekroczyć próg « 100 milionów dolarów » lub « 1 miliarda dolarów » przychodów, liczba większa, według autora, niż sobie wyobrażał. Zauważa jednak, że średnia jakość tych produkcji jest « zadziwiająco niska » i że wielu badaczy uważa część tego, co kupują, za złej jakości.
Duże laboratoria odnoszą jednak wyraźny zwrot z inwestycji z tych zakupów, zauważa tekst. Dla autora słabość wielu środowisk jest wyraźnie możliwa do poprawy.
