KOMPAS.com – OpenAI merilis model bahasa AI atau large language model (LLM) terbarunya, yakni GPT-4o Mini, Kamis (18/7/2024).
GPT-4o Mini ini hadir sebagai model AI yang lebih ringan dibandingkan GPT-4o yang dirilis pada Mei lalu. Artinya, model GPT-4o Mini hadir untuk mengerjakan tugas-tugas sederhana.
Meski begitu, model AI ini dikatakan lebih mumpuni dibandingkan GPT-3.5 dan lebih hemat biaya.
GPT-4o Mini dilaporkan memiliki skor 82 persen pada Measurement Massive Multitask Language Understanding (MMLU), sebuah ujian benchmark yang terdiri dari sekitar 16.000 pertanyaan pilihan ganda di 57 mata pelajaran akademik.
Sementara GPT-3.5 mendapatkan skor 70 persen pada benchmark ini. Di sisi lain, model AI tercanggih OpenAI, GPT-4o dilaporkan mendapatkan skor 88,7 persen.
GPT-4o mini mendukung teks dan visi di API. Model ini memiliki jendela konteks 128 ribu token, mendukung hingga 16 ribu token keluaran per permintaan, dan memiliki basis pengetahuan hingga Oktober 2023.
GPT-4o Mini akan mendapat dukungan untuk input dan output teks, gambar, video, dan audio (multimodal) di masa mendatang. Peningkatan ini akan memungkinkan pengguna untuk berinteraksi dengan model dengan cara yang lebih bervariasi, menjadikannya alat yang lebih lengkap untuk berbagai kegunaan.
Harga lebih murah
Dalam situs resminya, OpenAI mendeskripsikan GPT-4o Mini sebagai model AI-nya yang paling hemat biaya. OpenAI merinci, GPT-4o Mini membutuhkan biaya sebesar 15 sen per satu juta token masukan (input) dan 60 sen per satu juta token keluaran (output).
Menurut OpenAI, harga GPT-4o Mini itu jauh lebih terjangkau dibandingkan model frontier sebelumnya dan lebih dari 60 persen lebih murah dibandingkan GPT-3.5 Turbo.
Tujuan OpenAI menghadirkan GPT-4o Mini adalah menyediakan sesuatu yang ringan dan murah bagi pengembang untuk membuat aplikasi dan alat yang tidak mampu mereka buat dengan model yang lebih besar dan mahal seperti GPT-4.
“Saya pikir GPT-4o Mini benar-benar memenuhi misi OpenAI untuk menjadikan AI lebih mudah diakses oleh banyak orang. Jika kita ingin AI memberikan manfaat bagi seluruh penjuru dunia, setiap industri, setiap aplikasi, kita harus membuat AI jauh lebih terjangkau,” kata Olivier Godement, Kepala Produk dan API di OpenAI.
Dengan memadukan kekuatan, keterampilan, dan efektivitas biaya, GPT-4o mini seharusnya menjadi alat yang berharga bagi banyak pengguna, terutama pengembang yang ingin membangun aplikasi AI dengan biaya murah.
OpenAI bekerja sama dengan beberapa perusahaan untuk menguji GPT-4o Mini. Misalnya, startup teknologi keuangan Ramp menggunakan GPT-4o Mini untuk membuat alat yang mengekstrak data pengeluaran pada struk/bon belanja.
Jadi, pengguna tinggal mengunggah gambar struk. Kemudian, alat Ramp akan merinci pengeluaran pengguna.
Superhuman, sebuah klien email, juga menguji GPT-4o Mini dan menggunakannya untuk membuat fitur saran otomatis untuk memberikan tanggapan email.
Gantikan GPT-3.5 di ChatGPT
Menurut laporan The Verge, sebagaimana dihimpun KompasTekno, Jumat (19/7/2024), pengguna ChatGPT pada paket Gratis, Plus, dan Tim dapat menggunakan GPT-4o Mini mulai hari ini, menggantikan GPT-3.5. Pengguna Perusahaan akan mendapatkan aksesnya minggu depan.
Artinya, GPT-3.5 tidak lagi menjadi opsi bagi pengguna ChatGPT. Namun, model GPT-3.5 tetap tersedia bagi pengembang melalui API, jika mereka memilih untuk tidak beralih ke GPT-4o Mini.
Godement mengatakan GPT-3.5 akan dihentikan dari API suatu saat nanti, tapi tidak yakin kapan waktunya.