Hoe Think de GPU-kosten verlaagt en het gebruik in het Midden-Oosten verhoogt
De meeste AI-projecten verbranden sneller geld dan verwacht. Het is momenteel het vuile geheim van de industrie. U koopt de hardware. U huurt de cloudcapaciteit. Je wacht op resultaten die niet altijd binnen het budget passen.
Dat is de reden dat het in Riyad gevestigde Think zojuist ruim $8 miljoen heeft opgehaald.
Dit is niet de typische controle vóór het zaaien. Het valt op als potentieel de grootste AI-infrastructuur en deepeck pre-seed-ronde die ooit in de MENA-regio is afgesloten. RAED Ventures en Aramcos Wa’ed Ventures leidden samen de aanval. Ze brachten de ondernemingstak van Dhahran Techno Valley mee. Een cirkel van strategische engelen volgde vlak achter hem.
Maar geld is gemakkelijk uit te leggen. De technologie is moeilijker te verteren.
Think wil niet dat je AI huurt. Het wil dat jij de inefficiëntie in eigen hand neemt en erin knijpt totdat het schreeuwt. Hun pitch is eenvoudig genoeg om elke CFO zenuwachtig te maken: waarom zou u wereldwijde cloudtarieven betalen als uw eigen GPU’s 50 procent van de tijd inactief zijn?
Welke startups dagen cloudgiganten uit voor de lokale AI-soevereiniteit?
Hier gaat het momenteel over GPU-kosten in het Midden-Oosten. Datasoevereiniteit. Overheidsinstanties maken zich zorgen over waar hun gevoelige modellen wonen. Commerciële bedrijven zijn het beu om tokens naar het buitenland te sturen naar Google, OpenAI en Anthropic, om vervolgens gefactureerd te worden voor verspilling.
De oude maatstaf voor IT-leiders was snelheid. Hoe snel kunnen we een bot implementeren? Wat maakt het uit als het een fortuin kost. Dat spel is voorbij. Nu kijkt iedereen naar de brandsnelheid. Het beheersen van de stijgende inferentiekosten is een bestuurskamercrisis geworden.
Think ziet een opening. Ze bouwen hardware en software die zijn ontworpen om te raken waar de pijn zit.
Hun platform behaalde een GPU-gebruik van meer dan 90 procent tijdens productietests. Kent u het sectorgemiddelde? Het schommelt tussen de 30 en 50 procent. Think gebruikt standaardchips. Geen exotisch eigen silicium. Gewoon betere orkestratie.
De kosten per miljoen tokens zijn bijna 10 keer lager op het Think-systeem vergeleken met het gebruik van grensmodellen van de grote technologiemonopolies.
Dat soort margeveranderingen verandert de hele calculus voor Saoedische ondernemingen.
Waar kan een kosteneffectieve AI-infrastructuur worden ingezet in Saoedi-Arabië
De technologiestapel van Think is gebaseerd op drie specifieke onderdelen. Het zijn geen gimmicks.
- De AI SuperNode. De hardware is steviger verpakt. Think claimt een 135 procent grotere vermogensdichtheid dan zakelijke GPU-servers die exact dezelfde chips gebruiken. Meer crunch in een kleinere doos.
- ILM-systeem. Dit is bedrijfseigen software. Er wordt gekeken naar thermische gegevens. Het controleert het geheugengebruik in realtime. Het verplaatst werklasten dynamisch over GPU’s voordat een enkele kaart oververhit raakt of stikt.
- Sterrenbeeld. Dit is het jokerteken. Er zijn gewone kantoornetwerken voor nodig. De saaie pc’s op bureaus in Riyad. Na uren. Ze veranderen ze in supercomputerclusters. Waarom dat silicium verspillen?
De oprichters kennen het landschap. Ahmed AlSharif sneed zijn tanden bij Meta, Sony PlayStation Europe en EA Games. Ammar Enaya heeft teams geleid bij Cisco, HPE Aruta en Vectra AI. Dit is geen academische oefening. Dit zijn veteranen van high-stress engineering.
Ze gaan al snel vooruit. Think heeft vier patenten in behandeling. Ze voeren proofs of concept uit. Sommigen zijn overgestapt naar productie-implementaties. HUMAIN, het nationale AI-bedrijf van het Koninkrijk, bevindt zich in hun baan. Er vormen zich strategische partnerschappen.
In de komende 18 maanden zijn ze van plan om over de Golf uit te rollen. Ze zullen doorgaan met het bouwen van ILM als zelfstandige software, terwijl ze hun hardware-voetafdruk binnen Saoedi-Arabië uitbreiden.
Retour beloofd binnen 12 maanden.
Waarom uw AI-infrastructuur kopen in plaats van huren?
Laten we nog eens naar de wiskunde kijken. Cloudproviders rekenen premiumtarieven. Zij zijn eigenaar van het rek. Zij controleren het schema. Je krijgt wat ze je geven. Bij Think is de belofte het volledige eigendom van de infrastructuur. Geen terugkerende abonnementsvallen voor de hardware zelf.
De kapitaaluitgaven komen vooraf hard aan. Zeker. Maar de bedrijfsuitgaven dalen als een baksteen.
Is dit slechts een regionaal verhaal? Misschien voor nu. Ze richten zich eerst op de uitbreiding van de GCC. Ze behandelen specifieke regionale zorgen over data-residentie. Maar de inefficiëntie waarop zij zich richten, bestaat in elke serverfarm in Londen, New York of Singapore.
Think bouwt knooppunten die vloeistofgekoeld zijn. Gespannen. Efficiënt. Hun ILM-software worstelt met die macht. Constellation vindt de verborgen kracht in kantoorgebouwen.
Het resultaat? Kosten per miljoen tokens die de gemiddelde cloudsnelheid bespotten. Bijna een vertienvoudiging. Dat is een moeilijk getal. Harde cijfers trekken hard kapitaal aan. Vandaar de $ 8 miljoen.
Beleggers ruiken de verschuiving. Bedrijven worden wakker met de rekening. Think wil je een weg van de loopband verkopen.
Het valt nog te bezien of de lokale infrastructuur de hyperscalers volledig kan verdringen. Gemak trekt gebruikers altijd terug naar de cloud. Maar als de besparingen zo drastisch zijn, vecht de traagheid terug.
Think denkt dat het die strijd kan winnen.
