Jakarta – Meta kembali memperluas pengembangan kecerdasan buatan (AI) dengan merilis Muse Glimmer, model AI berukuran 30 miliar parameter yang dirancang untuk dapat dijalankan secara lokal menggunakan perangkat komputer konsumen.
Berbeda dengan layanan AI yang umumnya membutuhkan koneksi ke pusat data perusahaan, Muse Glimmer dirancang untuk menjalankan berbagai tugas langsung pada perangkat pengguna. Model tersebut dapat digunakan pada PC maupun Mac dengan dukungan satu GPU konsumen.
Meta menyebut Muse Glimmer sebagai model dengan bobot terbuka yang ditujukan untuk kebutuhan local agent. Model ini dikembangkan untuk menangani berbagai pekerjaan yang membutuhkan kemampuan menjalankan tugas secara berkelanjutan, termasuk penggunaan alat, penyelesaian tugas panjang, serta pemulihan ketika terjadi kegagalan dalam proses.
Melalui pendekatan tersebut, pengguna dan pengembang memiliki kesempatan untuk menjalankan model AI tanpa harus selalu mengirimkan data ke layanan berbasis cloud. Hal ini dapat memberikan keuntungan dari sisi privasi sekaligus mengurangi ketergantungan terhadap koneksi internet.
Dalam laman resmi Meta, Muse Glimmer disebut sebagai model 30 miliar parameter yang dilisensikan menggunakan Apache 2.0. Model tersebut dioptimalkan untuk penggunaan agen AI yang berjalan secara lokal dan dapat beroperasi menggunakan satu GPU.
Kehadiran Muse Glimmer juga memperlihatkan perubahan arah pengembangan AI yang tidak hanya berfokus pada model berukuran sangat besar yang dijalankan melalui pusat data. Model yang lebih ringkas dan dapat dijalankan di perangkat konsumen mulai menjadi perhatian karena memungkinkan pengembang memiliki kendali lebih besar terhadap penggunaan AI.
Selain itu, kemampuan menjalankan AI secara lokal berpotensi memberikan manfaat bagi pekerjaan yang membutuhkan pemrosesan data secara langsung di perangkat. Pengguna dapat menjalankan model tanpa harus bergantung sepenuhnya pada layanan AI berbasis internet.
Meski demikian, kemampuan menjalankan model 30 miliar parameter pada komputer konsumen tetap bergantung pada spesifikasi perangkat, terutama kapasitas memori dan kemampuan GPU. Karena itu, tidak semua komputer dapat menjalankan Muse Glimmer dengan performa yang sama.
Peluncuran Muse Glimmer menjadi bagian dari persaingan perusahaan teknologi dalam menghadirkan model AI yang semakin efisien. Meta juga terus mendorong pengembangan model dengan bobot terbuka agar dapat dimanfaatkan lebih luas oleh komunitas pengembang.
0 comments:
Post a Comment