Por que a infraestrutura de IA de US$ 8 milhões da Think levanta questões para os data centers sauditas

12

Como a Think reduz custos de GPU e aumenta a utilização no Oriente Médio

A maioria dos projetos de IA gasta dinheiro mais rápido do que o esperado. É o segredo sujo da indústria neste momento. Você compra o hardware. Você aluga a capacidade da nuvem. Você espera por resultados que nem sempre correspondem ao orçamento.

É por isso que o Think, com sede em Riad, acaba de arrecadar mais de US$ 8 milhões.

Esta não é a típica verificação de pré-sementeira suave. Destaca-se como potencialmente a maior infraestrutura de IA e rodada de pré-semente deepteck já fechada na região MENA. RAED Ventures e Aramcos Wa’ed Ventures co-lideraram o ataque. Eles trouxeram o braço de risco da Dhahran Techno Valley. Um círculo de anjos estratégicos seguiu logo atrás.

Mas o dinheiro é fácil de explicar. A tecnologia é mais difícil de digerir.

Think não quer que você alugue IA. Ele quer que você assuma a ineficiência e a aperte até que ela grite. A proposta deles é simples o suficiente para deixar qualquer CFO nervoso: por que pagar taxas globais de nuvem quando suas próprias GPUs ficam ociosas 50% do tempo?

Quais startups estão desafiando os gigantes da nuvem pela soberania local da IA?

Aqui está a questão dos custos da GPU no Oriente Médio no momento. Soberania de dados. As entidades governamentais estão preocupadas com a localização dos seus modelos sensíveis. As empresas comerciais estão cansadas de enviar tokens para o exterior, para Google, OpenAI e Anthropic, apenas para serem cobradas pelo desperdício.

A antiga métrica dos líderes de TI era a velocidade. Quão rápido podemos implementar um bot? Quem se importa se custa uma fortuna. Esse jogo acabou. Agora, todos observam a taxa de consumo. Gerenciar os custos crescentes de inferência tornou-se uma crise na diretoria.

Pense que vê uma abertura. Eles constroem hardware e software projetados para atingir onde está a dor.

Sua plataforma alcançou mais de 90% de utilização de GPU em testes de produção. Você conhece a média do setor? Ele oscila entre 30 e 50 por cento. Think usa chips padrão. Nenhum silício proprietário exótico. Apenas melhor orquestração.

O custo por milhão de tokens é quase 10 vezes menor no sistema da Think em comparação com o uso de modelos de fronteira dos grandes monopólios tecnológicos.

Esse tipo de alteração nas margens altera todo o cálculo das empresas sauditas.

Onde implantar infraestrutura de IA econômica na Arábia Saudita

A pilha de tecnologia da Think depende de três peças específicas. Eles não são truques.

  1. O AI SuperNode. Ele empacota o hardware de maneira mais compacta. A Think afirma ter uma densidade de energia 135% maior do que os servidores GPU empresariais que usam exatamente os mesmos chips. Mais crocância em uma caixa menor.
  2. Sistema ILM. Este é um software proprietário. Ele analisa dados térmicos. Ele verifica o uso da memória em tempo real. Ele move cargas de trabalho entre GPUs dinamicamente antes que qualquer placa superaqueça ou engasgue.
  3. Constelação. Este é o curinga. São necessárias redes comuns de escritório. Os chatos PCs nas mesas de Riad. Depois do expediente. Eles os transformam em clusters de supercomputadores. Por que desperdiçar esse silício?

Os fundadores conhecem a paisagem. Ahmed AlSharif começou a trabalhar na Meta, Sony PlayStation Europe e EA Games. Ammar Enaya liderou equipes na Cisco, HPE Aruta e Vectra AI. Este não é um exercício acadêmico. Estes são veteranos da engenharia de alto estresse.

Eles já estão se movendo rapidamente. A Think detém quatro patentes pendentes. Eles estão executando provas de conceito. Alguns passaram para implantações de produção. HUMAIN, a empresa nacional de IA do Reino, está em sua órbita. Parcerias estratégicas estão se formando.

Nos próximos 18 meses, planeiam expandir-se para todo o Golfo. Eles continuarão construindo o ILM como software independente enquanto expandem sua presença de hardware na Arábia Saudita.

Retorno prometido em 12 meses.

Por que comprar em vez de alugar sua infraestrutura de IA?

Vejamos a matemática novamente. Os provedores de nuvem cobram taxas premium. Eles são os donos do rack. Eles controlam o cronograma. Você recebe o que eles lhe dão. Com o Think, a promessa é a propriedade total da infraestrutura. Não há armadilhas recorrentes de assinatura para o próprio hardware.

As despesas de capital atingem fortemente o início. Claro. Mas as despesas operacionais caem como uma pedra.

Esta é apenas uma história regional? Talvez por enquanto. Eles se concentram primeiro na expansão do GCC. Eles tratam de preocupações regionais específicas sobre residência de dados. Mas a ineficiência que eles visam existe em todos os servidores em Londres, Nova York ou Cingapura.

Think constrói nós com refrigeração líquida. Denso. Eficiente. Seu software ILM disputa esse poder. A Constellation encontra o poder oculto nos edifícios de escritórios.

O resultado? Um custo por milhão de token que simula a taxa média de nuvem. Economia de quase dez vezes. Esse é um número difícil. Números concretos atraem capital sólido. Daí os US$ 8 milhões.

Os investidores sentem o cheiro da mudança. As empresas estão acordando para a conta. Think quer lhe vender uma maneira de sair da esteira.

Resta saber se a infraestrutura local pode substituir totalmente os hiperescaladores. A conveniência sempre atrai os usuários de volta para a nuvem. Mas quando as poupanças são tão drásticas, a inércia contra-ataca.

Pense que pode vencer essa luta.

Artigo anteriorComo a IA do Android e a ordem dos dados de pesquisa da UE remodelam o campo de batalha tecnológico
Próximo artigo14 de julho Respostas e dicas de conexões do NYT (quebra-cabeça 1129)