Modele i API: Z.ai

O Z.ai

Rodziny GLM od Z.ai zajmują środek katalogu tekstowego: długie czytanie, długa odpowiedź. Wszystkie trzy wystawiają jedno zadanie czatu z oknem kontekstu 1 048 576 tokenów.

GLM 5.3 czyta do 1 048 576 tokenów w jednym wywołaniu i oddaje rozumowanie w maksymalnie 131 072 tokenach, co przy tej stawce jest wysokim pułapem. GLM 5.3 Flash zachowuje to samo okno i ten sam pułap 131 072 tokenów na tańszym pasie i to od niego zaczyna się próby przy dużym wolumenie. GLM 5.2 to wcześniejsza rodzina z tym samym oknem i pułapem, utrzymana w dostępności po to, by istniejąca integracja nie musiała się przenosić w cudzym terminie.

Ta trójka jest na tyle podobna, że uczciwy sposób wyboru to puścić ten sam materiał testowy przez każdą z nich i porównać wynik, a nie kartę katalogową. Zacznij od 5.3 Flash, przejdź na 5.3, gdy ograniczeniem stanie się jakość odpowiedzi, a 5.2 przypnij tylko wtedy, gdy masz powód. Poziomy filtrowania różnią się w tej linii, więc zanim skierujesz tam wrażliwe obciążenie, sprawdź poziom na stronie rodziny.