Bagaimana Think memangkas biaya GPU dan meningkatkan pemanfaatan di Timur Tengah
Sebagian besar proyek AI menghabiskan uang lebih cepat dari perkiraan. Ini adalah rahasia kotor industri saat ini. Anda membeli perangkat kerasnya. Anda menyewa kapasitas cloud. Anda menunggu hasil yang tidak selalu sesuai anggaran.
Itulah sebabnya Think yang berbasis di Riyadh baru saja mengumpulkan lebih dari $8 juta.
Ini bukan pemeriksaan soft-pre-seed biasa. Ini berpotensi menjadi infrastruktur AI dan putaran pra-seed deepteck terbesar yang pernah ditutup di wilayah MENA. RAED Ventures dan Aramcos Wa’ed Ventures bersama-sama memimpin tugas ini. Mereka membawa serta cabang ventura Lembah Dhahran Techno. Sekelompok malaikat strategis mengikuti dari belakang.
Tapi uang mudah dijelaskan. Teknologi ini lebih sulit dicerna.
Think tidak ingin Anda menyewa AI. Ia ingin Anda mengakui ketidakefisienan dan memerasnya hingga menjerit. Pidato mereka cukup sederhana untuk membuat CFO mana pun gelisah: mengapa harus membayar tarif cloud global ketika GPU Anda menganggur 50 persen sepanjang waktu?
Startup mana yang menantang raksasa cloud demi kedaulatan AI lokal?
Inilah informasi mengenai biaya GPU di Timur Tengah saat ini. Kedaulatan data. Entitas pemerintah khawatir dengan keberadaan model sensitif mereka. Perusahaan komersial sudah bosan mengirimkan token ke luar negeri ke Google, OpenAI, dan Anthropic hanya untuk mendapatkan tagihan atas pemborosan.
Metrik lama bagi para pemimpin TI adalah kecepatan. Seberapa cepat kita bisa mengimplementasikan bot? Siapa yang peduli jika biayanya mahal. Permainan itu sudah berakhir. Sekarang, semua orang memperhatikan tingkat pembakarannya. Mengelola kenaikan biaya inferensi telah menjadi krisis di ruang rapat.
Pikir melihat celah. Mereka membangun perangkat keras dan perangkat lunak yang dirancang untuk mengatasi permasalahan tersebut.
Platform mereka mencapai pemanfaatan GPU di atas 90 persen dalam pengujian produksi. Tahukah Anda rata-rata industri? Angkanya berkisar antara 30 dan 50 persen. Think menggunakan chip standar. Tidak ada silikon eksklusif yang eksotik. Orkestrasi yang lebih baik.
Biaya per juta token hampir 10 kali lebih rendah pada sistem Think dibandingkan dengan menggunakan model frontier dari monopoli teknologi besar.
Perubahan margin seperti itu mengubah seluruh kalkulus perusahaan Saudi.
Tempat untuk menerapkan infrastruktur AI yang hemat biaya di Arab Saudi
Tumpukan teknologi Think bergantung pada tiga bagian tertentu. Itu bukan gimmick.
- AI SuperNode. Ini mengemas perangkat keras dengan lebih ketat. Think mengklaim kepadatan daya 135 persen lebih besar dibandingkan server GPU perusahaan yang menggunakan chip yang sama. Lebih renyah dalam kotak yang lebih kecil.
- Sistem ILM. Ini adalah perangkat lunak berpemilik. Ini melihat data termal. Ia memeriksa penggunaan memori secara real-time. Ini memindahkan beban kerja di seluruh GPU secara dinamis sebelum satu kartu menjadi terlalu panas atau tersedak.
- Rasi bintang. Ini adalah karakter penggantinya. Dibutuhkan jaringan kantor biasa. PC yang membosankan di meja di Riyadh. Setelah jam kerja. Mereka mengubahnya menjadi cluster superkomputer. Mengapa menyia-nyiakan silikon itu?
Para pendirinya mengetahui lanskapnya. Ahmed AlSharif mulai bekerja di Meta, Sony PlayStation Europe, dan EA Games. Ammar Enaya telah memimpin tim di Cisco, HPE Aruta, dan Vectra AI. Ini bukanlah latihan akademis. Mereka adalah para veteran teknik bertekanan tinggi.
Mereka sudah bergerak cepat. Think memegang empat paten yang tertunda. Mereka menjalankan bukti konsep. Beberapa telah lulus ke penerapan produksi. HUMAIN, perusahaan AI nasional Kerajaan, berada di orbitnya. Kemitraan strategis mulai terbentuk.
Selama 18 bulan ke depan, vaksin ini berencana untuk diluncurkan di wilayah Teluk. Mereka akan terus membangun ILM sebagai perangkat lunak mandiri sambil memperluas jejak perangkat keras mereka di Arab Saudi.
Pengembalian dijanjikan dalam 12 bulan.
Mengapa membeli infrastruktur AI Anda daripada menyewanya?
Mari kita lihat matematikanya lagi. Penyedia cloud mengenakan tarif premium. Mereka pemilik rak itu. Mereka mengontrol jadwal. Anda mendapatkan apa yang mereka berikan kepada Anda. Dengan Think, janjinya adalah kepemilikan langsung atas infrastruktur. Tidak ada jebakan langganan berulang untuk perangkat keras itu sendiri.
Belanja modal sangat berpengaruh di awal. Tentu. Namun pengeluaran operasional turun drastis.
Apakah ini hanya cerita daerah? Mungkin untuk saat ini. Mereka fokus pada ekspansi GCC terlebih dahulu. Mereka menangani permasalahan regional tertentu mengenai residensi data. Namun inefisiensi yang mereka targetkan terjadi di setiap server farm di London, New York, atau Singapura.
Think membangun node yang berpendingin cairan. Padat. Efisien. Perangkat lunak ILM mereka menentang kekuatan itu. Konstelasi menemukan kekuatan tersembunyi di gedung perkantoran.
Hasilnya? Biaya per juta token yang mengolok-olok tingkat cloud rata-rata. Penghematan hampir sepuluh kali lipat. Itu adalah angka yang sulit. Angka-angka sulit menarik modal keras. Oleh karena itu $8 juta.
Investor mencium perubahan tersebut. Dunia usaha mulai menyadari hal ini. Berpikir ingin menjual Anda jauh dari treadmill.
Masih harus dilihat apakah infrastruktur lokal dapat sepenuhnya menggantikan para hyperscaler. Kenyamanan selalu menarik pengguna kembali ke cloud. Namun ketika penghematan sebesar ini, kelembaman akan melawan.
Pikirnya ia bisa memenangkan pertarungan itu.
