GPT4 – dostęp globalny do API
To ogromny krok naprzód w dziedzinie generowania tekstu, który otwiera nowe możliwości dla deweloperów na całym świecie.
GPT-4, który został zaprezentowany w marcu, zyskał tytuł najbardziej zaawansowanego modelu generującego tekst, z oknem kontekstowym wynoszącym aż 32 000 tokenów. Dla porównania konkurencyjny model Anthropic, Claude, oferuje okno kontekstowe wynoszące 100 000 tokenów. Okno kontekstowe odnosi się do tekstu, który model bierze pod uwagę przed generowaniem dodatkowego tekstu. Modele z małymi oknami kontekstowymi mają tendencję do “zapominania” treści nawet bardzo niedawnych rozmów, co prowadzi do zbaczenia z tematu.
OpenAI zapowiedziało również, że w przyszłości pozwoli deweloperom na dostrojenie GPT-4 i GPT-3.5 Turbo, innego z jego niedawnych, ale mniej zdolnych modeli generujących tekst, za pomocą własnych danych. Ta funkcja powinna być dostępna jeszcze w tym roku.
Firma planuje również wycofać stare modele dostępne przez swoje API, aby “zoptymalizować swoją zdolność obliczeniową”. Od 4 stycznia 2024 r., niektóre starsze modele OpenAI – konkretnie GPT-3 i jego pochodne – nie będą już dostępne i zostaną zastąpione nowymi modelami “base GPT-3”, które są prawdopodobnie bardziej wydajne pod względem obliczeń.
Deweloperzy korzystający ze starych modeli będą musieli ręcznie zaktualizować swoje integracje do 4 stycznia. Ci, którzy chcą przetestować nowe modele, będą mogli to zrobić w nadchodzących tygodniach.
