Penulis: Cak AT (Ahmadie Thaha)

Satuju.com - Dunia Colibrì jalankan AI raksasa menghadirkan pendekatan berbeda dalam pengembangan teknologi kecerdasan buatan. Perangkat lunak tersebut disebut mampu menjalankan model AI dengan sekitar 744 miliar parameter pada laptop yang hanya memiliki RAM 25 GB.

Eksperimen ini menarik karena ukuran model yang dijalankan jauh melampaui kapasitas memori perangkat yang digunakan. Setelah dipadatkan, ukuran model tersebut masih mencapai sekitar 370 GB.

Colibrì tidak memuat seluruh parameter ke dalam RAM secara bersamaan. Perangkat lunak ini mengambil bagian model yang sedang dibutuhkan, sementara bagian lainnya tetap berada di media penyimpanan seperti SSD atau NVMe.

Pendekatan tersebut memungkinkan komputer dengan spesifikasi relatif terbatas menjalankan model AI yang biasanya membutuhkan perangkat keras jauh lebih mahal.

Model yang digunakan dalam eksperimen itu memiliki arsitektur Mixture-of-Experts (MoE). Teknologi ini memungkinkan sistem mengaktifkan bagian tertentu dari model sesuai kebutuhan, tanpa harus menjalankan seluruh komponen pada setiap proses.

Gambaran sederhananya seperti perusahaan dengan ratusan ribu pekerja. Ketika sebuah pekerjaan masuk, perusahaan hanya memanggil tenaga ahli yang relevan. Pekerja lainnya tidak perlu ikut bekerja sampai keahliannya dibutuhkan.

Prinsip itulah yang dimanfaatkan Colibrì. Bagian model yang aktif ditempatkan di memori untuk diproses, sedangkan komponen lain menunggu di penyimpanan dan dipanggil ketika diperlukan.

Cara tersebut menjadi alternatif terhadap pendekatan konvensional yang membutuhkan kapasitas RAM atau VRAM sangat besar untuk menjalankan model AI berukuran raksasa.

Proyek ini dikembangkan oleh Vincenzo yang dikenal dengan nama JustVugg. Alih-alih menggunakan komputer kelas pusat data, ia mencari cara agar model besar tetap bisa dijalankan dengan perangkat yang lebih terbatas.

Di titik ini, Colibrì menghadirkan pelajaran penting tentang perkembangan teknologi. Keterbatasan perangkat keras tidak selalu harus dijawab dengan membeli komponen yang lebih mahal.

Pertanyaan yang muncul justru lebih mendasar: bagian mana dari sebuah sistem yang benar-benar diperlukan pada saat tertentu?

Jawaban atas pertanyaan tersebut membuka ruang bagi pendekatan yang lebih efisien. Colibrì tidak berusaha mengalahkan ukuran model dengan perangkat keras yang lebih besar, tetapi mengatur cara kerja model agar sesuai dengan kemampuan mesin yang tersedia.

Nama Colibrì sendiri berarti burung kolibri dalam bahasa Italia. Burung tersebut dikenal memiliki tubuh kecil, tetapi mampu melakukan manuver terbang yang tidak biasa, termasuk melayang dan terbang mundur.

Metafora itu sejalan dengan cara kerja proyek tersebut. Colibrì tidak mengandalkan komputer raksasa untuk menjalankan model AI besar. Sistemnya bergerak antara RAM, VRAM, dan media penyimpanan sesuai kebutuhan proses.

Eksperimen tersebut juga memperlihatkan peluang lebih luas bagi pengembangan AI dengan biaya yang lebih terjangkau.

Selama ini, perkembangan AI kerap identik dengan kebutuhan GPU kelas atas, server besar, pusat data, serta investasi perangkat keras yang sangat mahal. Kondisi itu dapat menjadi hambatan bagi sekolah, kampus, perpustakaan, pesantren, lembaga penelitian, maupun organisasi kecil yang ingin memanfaatkan teknologi AI.

Bagi Indonesia, efisiensi komputasi menjadi isu penting karena tidak semua institusi memiliki akses terhadap infrastruktur AI dengan biaya tinggi.

Pengembangan perangkat lunak yang mampu memaksimalkan komputer yang sudah tersedia dapat menjadi salah satu alternatif. Teknologi AI tidak harus selalu hadir melalui mesin dengan spesifikasi tertinggi untuk memberikan manfaat.

Pendekatan serupa dapat diterapkan pada berbagai kebutuhan, mulai dari perangkat lunak pendidikan, perpustakaan digital, riset, layanan publik hingga teknologi pertanian.

Ukuran keberhasilan teknologi pada akhirnya bukan sekadar besarnya model atau tingginya spesifikasi perangkat. Pertanyaan yang lebih penting adalah seberapa besar teknologi tersebut mampu menyelesaikan persoalan dan memperluas akses masyarakat terhadap manfaat digital.

Gagasan itu juga berkaitan dengan prinsip fastabiqul khairat, atau berlomba-lomba dalam kebaikan. Dalam perkembangan AI, perlombaan tidak semestinya berhenti pada siapa yang mempunyai model terbesar, GPU terbanyak, atau skor benchmark tertinggi.

Persaingan teknologi juga dapat diarahkan untuk menghasilkan sistem yang lebih hemat, mudah diakses, dan berguna bagi lebih banyak orang.

Tradisi open source seperti yang diusung Colibrì turut membuka ruang bagi pengguna lain untuk mempelajari, mengembangkan, serta memperbaiki teknologi tersebut.

Keterbatasan sumber daya memang tidak perlu dipandang sebagai sesuatu yang harus dibanggakan. Laboratorium tetap membutuhkan pendanaan, peneliti harus memperoleh dukungan, dan perangkat keras yang lebih cepat tetap memiliki nilai.

Namun, keterbatasan dapat memaksa pengembang mengajukan pertanyaan yang sering terlupakan ketika sumber daya berlimpah: apakah ada cara lain yang lebih efisien?

Dunia AI kemungkinan akan terus berlomba membangun model yang semakin besar. Di tengah perlombaan tersebut, Colibrì menawarkan perspektif berbeda bahwa kecerdikan dalam mengelola sumber daya juga dapat menjadi kekuatan.

Teknologi tidak selalu harus menang dengan ukuran. Dalam sejumlah situasi, efisiensi, kreativitas, dan kemampuan menemukan cara baru justru dapat membuka jalan yang sebelumnya dianggap mustahil.