How Think riduce i costi delle GPU e ne aumenta l’utilizzo in Medio Oriente
La maggior parte dei progetti di intelligenza artificiale bruciano denaro più velocemente del previsto. È lo sporco segreto del settore in questo momento. Compri l’hardware. Affitti la capacità del cloud. Aspetti risultati che non sempre corrispondono al budget.
Ecco perché Think, con sede a Riad, ha appena raccolto più di 8 milioni di dollari.
Questo non è il tipico controllo pre-seed morbido. Si distingue come potenzialmente la più grande infrastruttura di intelligenza artificiale e round di pre-seed deepteck mai chiuso nella regione MENA. RAED Ventures e Aramcos Wa’ed Ventures hanno co-guidato l’iniziativa. Hanno portato con sé il braccio di venture capital di Dhahran Techno Valley. Un cerchio di angeli strategici lo seguiva da vicino.
Ma il denaro è facile da spiegare. La tecnologia è più difficile da digerire.
Penso che non voglia che tu noleggi l’IA. Vuole che tu possieda l’inefficienza e la sprema fino a farla urlare. Il loro discorso è abbastanza semplice da innervosire qualsiasi CFO: perché pagare tariffe globali per il cloud quando le vostre GPU restano inattive per il 50% del tempo?
Quali startup stanno sfidando i giganti del cloud per la sovranità dell’IA locale?
Ecco il problema dei costi delle GPU in Medio Oriente in questo momento. Sovranità dei dati. Gli enti governativi sono preoccupati per dove vivono i loro modelli sensibili. Le aziende commerciali sono stanche di inviare token all’estero a Google, OpenAI e Anthropic solo per farsi fatturare gli sprechi.
Il vecchio parametro per i leader IT era la velocità. Quanto velocemente possiamo implementare un bot? Chi se ne frega se costa una fortuna. Quel gioco è finito. Adesso tutti guardano la velocità di combustione. La gestione dei crescenti costi di inferenza è diventata una crisi nei consigli di amministrazione.
Penso che veda un’apertura. Costruiscono hardware e software progettati per colpire dove si trova il dolore.
La loro piattaforma ha raggiunto un utilizzo della GPU superiore al 90% nei test di produzione. Conosci la media del settore? Si aggira tra il 30 e il 50%. Think utilizza chip standard. Nessun silicio proprietario esotico. Solo una migliore orchestrazione.
Il costo per milione di token è quasi 10 volte inferiore nel sistema Think rispetto all’utilizzo di modelli di frontiera dei grandi monopoli tecnologici.
Questo tipo di variazione dei margini cambia l’intero calcolo per le imprese saudite.
Dove implementare un’infrastruttura IA economicamente vantaggiosa in Arabia Saudita
Lo stack tecnologico di Think si basa su tre elementi specifici. Non sono espedienti.
- Il Supernodo AI. Racchiude l’hardware in modo più compatto. Think dichiara una densità di potenza maggiore del 135% rispetto ai server GPU aziendali che utilizzano gli stessi chip. Più croccantezza in una scatola più piccola.
- Sistema ILM. Questo è un software proprietario. Guarda i dati termici. Controlla l’utilizzo della memoria in tempo reale. Sposta i carichi di lavoro tra le GPU in modo dinamico prima che una singola scheda si surriscaldi o si blocchi.
- Costellazione. Questo è il carattere jolly. Sono necessarie le normali reti aziendali. I noiosi PC sulle scrivanie di Riad. Dopo ore. Li trasformano in cluster di supercalcolo. Perché sprecare quel silicio?
I fondatori conoscono il paesaggio. Ahmed AlSharif si è fatto le ossa presso Meta, Sony PlayStation Europe ed EA Games. Ammar Enaya ha guidato team presso Cisco, HPE Aruta e Vectra AI. Questo non è un esercizio accademico. Questi sono veterani dell’ingegneria ad alto stress.
Si stanno già muovendo velocemente. Think detiene quattro brevetti in attesa di registrazione. Stanno eseguendo prove di concetto. Alcuni sono passati alle implementazioni di produzione. HUMAIN, la compagnia nazionale di intelligenza artificiale del Regno, è nella loro orbita. Si stanno formando partenariati strategici.
Nel corso dei prossimi 18 mesi, prevedono di estendersi in tutto il Golfo. Continueranno a costruire ILM come software autonomo, espandendo al contempo la propria presenza hardware all’interno dell’Arabia Saudita.
Resi promessi in 12 mesi.
Perché acquistare invece di affittare la tua infrastruttura IA?
Diamo un’occhiata di nuovo alla matematica. I fornitori di servizi cloud applicano tariffe premium. Possiedono il rack. Controllano il programma. Ottieni quello che ti danno. Con Think, la promessa è la proprietà totale dell’infrastruttura. Nessuna trappola di abbonamento ricorrente per l’hardware stesso.
La spesa in conto capitale colpisce duramente in anticipo. Sicuro. Ma le spese operative crollano come un macigno.
È solo una storia regionale? Forse per ora. Si concentrano innanzitutto sull’espansione del GCC. Si occupano di specifiche preoccupazioni regionali sulla residenza dei dati. Ma l’inefficienza a cui mirano esiste in ogni server farm di Londra, New York o Singapore.
Think costruisce nodi raffreddati a liquido. Denso. Efficiente. Il loro software ILM mette a dura prova questo potere. Constellation trova il potere nascosto negli edifici adibiti ad uffici.
Il risultato? Un costo per milione di token che fa ridere il tasso medio di cloud. Un risparmio quasi decuplicato. Questo è un numero difficile. I numeri duri attraggono il capitale duro. Da qui gli 8 milioni di dollari.
Gli investitori fiutano il cambiamento. Le imprese si stanno rendendo conto del conto. Penso che voglia venderti una via d’uscita dal tapis roulant.
Resta da vedere se le infrastrutture locali riusciranno a sostituire completamente gli hyperscaler. La comodità riporta sempre gli utenti al cloud. Ma quando i risparmi sono così drastici, l’inerzia reagisce.
Pensa che possa vincere quella battaglia.
