OpenAI Predstavlja GPT-4o Mini: Mali AI Model koji Pokreće ChatGPT
OpenAI je nedavno predstavio GPT-4o Mini, manju verziju svog popularnog GPT-4 modela, koji je dizajniran da donese moćne AI funkcije na manje uređaje. Ovaj novi model je optimizovan za brži rad sa manjom potrošnjom resursa, što ga čini idealnim za aplikacije koje rade na uređajima sa ograničenim hardverskim kapacitetima.
Kompanija tvrdi da GPT-4o mini nadmašuje vodeće male AI modele u industriji kada su u pitanju zadaci rezonovanja koji uključuju tekst i vizuelne podatke. Kako se manji AI modeli usavršavaju, postaju sve popularniji među programerima zbog svoje brzine i ekonomičnosti u poređenju sa većim modelima, kao što su GPT-4 Omni ili Claude 3.5 Sonnet. Oni predstavljaju korisnu opciju za zadatke velikog obima i jednostavne zadatke koje programeri često koriste AI modele da obave.
GPT-4o mini će zameniti GPT-3.5 Turbo kao najmanji model koji OpenAI nudi. Kompanija tvrdi da njihov najnoviji AI model postiže rezultat od 82% na MMLU testu, koji meri sposobnost rezonovanja, u poređenju sa 79% za Gemini 1.5 Flash i 75% za Claude 3 Haiku, prema podacima iz Artificial Analysis. Na MGSM testu, koji meri matematičko rezonovanje, GPT-4o mini je postigao rezultat od 87%, u poređenju sa 78% za Flash i 72% za Haiku.
OpenAI navodi da je GPT-4o mini značajno povoljniji za korišćenje u poređenju sa prethodnim modelima, i više od 60% jeftiniji od GPT-3.5 Turbo. Trenutno, GPT-4o mini podržava tekst i vizuelne podatke putem API-ja, a OpenAI najavljuje da će model u budućnosti podržavati i video i audio mogućnosti.
„Da bi svaki deo sveta mogao da iskoristi prednosti veštačke inteligencije, moramo učiniti modele znatno pristupačnijim,“ izjavio je Olivier Godement, direktor API proizvoda u OpenAI, u intervjuu za TechCrunch. „Mislim da je GPT-4o mini zaista veliki korak napred u tom pravcu.“
Za programere koji koriste OpenAI API, GPT-4o mini je cenovno postavljen na 15 centi po milionu ulaznih tokena i 60 centi po milionu izlaznih tokena. Model ima kontekstualni prozor od 128.000 tokena, što je otprilike dužina jedne knjige, i poseduje presek znanja do oktobra 2023. godine.
OpenAI nije otkrio tačnu veličinu GPT-4o mini modela, ali je naveo da se nalazi u istom rangu kao i drugi mali AI modeli, poput Llama 3 8b, Claude Haiku i Gemini 1.5 Flash. Međutim, kompanija tvrdi da je GPT-4o mini brži, isplativiji i pametniji od vodećih malih modela u industriji, prema testiranjima pre lansiranja u LMSYS.org chatbot areni. Rani nezavisni testovi izgleda da potvrđuju ove tvrdnje.
„U poređenju sa sličnim modelima, GPT-4o mini je veoma brz, sa prosečnom brzinom izlaznih podataka od 202 tokena po sekundi,“ izjavio je George Cameron, suosnivač kompanije Artificial Analysis, u emailu za TechCrunch. „Ovo je više nego dvostruko brže od GPT-4o i GPT-3.5 Turbo modela, i predstavlja privlačnu ponudu za slučajeve upotrebe gde je brzina ključna, uključujući mnoge potrošačke aplikacije i agentne pristupe korišćenju velikih jezičkih modela (LLM).“
Želite da iskoristite veštačku inteligenciju za Vaš biznis? Pogledajte usluge koje mi nudimo našim klijentima
Chatbot za Vaš sajt
Chatbota koji ima sve informacije o Vašem biznisu i uvek je tu da pomogne Vašim posetiocima