DeepSeek Bikin Heboh dengan LLM Baru yang Irit dan Canggih

Sulawesitoday - DeepSeek kembali mencuri perhatian dunia teknologi. Mereka merilis sebuah large language model (LLM) yang tidak hanya canggih tetapi juga hemat biaya.

DeepSeek mengklaim model terbarunya dilatih dengan hanya 2.000 chip Nvidia H800. Biaya yang dikeluarkan sekitar USD 6 juta, jauh lebih irit dibandingkan yang lain.

Menurut Alexander Doria, pelatihan LLM DeepSeek R1 dilakukan menggunakan chip Nvidia H800. Sedangkan untuk proses inference, DeepSeek memilih Huawei Ascend 910C yang memiliki kemampuan komputasi lebih rendah.

Proses inference adalah tahap dimana AI yang sudah dilatih digunakan untuk memproses data baru dan menjawab pertanyaan. Dengan demikian, pemilihan chip untuk inference pun disesuaikan dengan kebutuhan komputasi yang tidak terlalu tinggi.

Mungkin terdengar sederhana, tetapi penggunaan chip berbeda ini merupakan strategi yang cerdas. DeepSeek ingin memastikan model AI-nya tetap efisien dan hemat sumber daya tanpa mengurangi performa.

Beberapa kalangan menyebut bahwa DeepSeek sempat dituduh menggunakan puluhan ribu chip Nvidia H100. Namun, informasi tersebut sengaja disembunyikan karena ada aturan ekspor dari Amerika Serikat.

CEO Scale AI, Alexandr Wang, berkomentar bahwa DeepSeek sebenarnya memiliki sekitar 50 ribu unit Nvidia H100. Pernyataan ini mengundang tanya, bagaimana perusahaan bisa menyimpan jumlah chip sebesar itu dengan aturan ketat?

Kombinasi chip Nvidia H800 dan Huawei Ascend 910C menunjukkan strategi dualisme teknologi. Penggunaan chip dari dua raksasa teknologi, deepseek dan open ai, menandakan adanya usaha untuk menyeimbangkan kinerja dan biaya.

Di sisi lain, Huawei pun tak mau kalah. Mereka tengah mengembangkan Ascend 920 yang dikabarkan akan bersaing dengan chip Nvidia Blackwell B200. Ini menambah dinamika persaingan global di sektor chip AI.

Baca Juga: Saingi DeepSeek, OpenAI Luncurkan o3-mini Kecepatan 24% Lebih Unggul di Era STEM

Apa dampak dari strategi ini bagi dunia AI? Pengamatan saya, penggunaan chip irit dan campuran teknologi ini bisa membuka peluang baru bagi pengembangan AI yang lebih terjangkau.

Inovasi seperti ini menunjukkan bahwa di era open ai, kreativitas dan strategi teknologi bisa menghasilkan terobosan.

Kita bisa melihat bagaimana DeepSeek mengguncang industri dengan pendekatan yang berbeda, dan ini patut diacungi jempol.

Dengan demikian, DeepSeek telah menorehkan sejarah baru di dunia AI. Langkah mereka membuka diskusi tentang inovasi dan penghematan dalam penggunaan teknologi tinggi, mengajak kita semua untuk berpikir lebih jauh tentang masa depan AI.