Platforma oceny sztucznej inteligencji Braintrust potwierdziła incydent bezpieczeństwa polegający na nieautoryzowanym dostępie do jednego z kont infrastruktury chmurowej Amazon Web Services (AWS). W odpowiedzi firma wydała krytyczne ostrzeżenie wszystkim klientom, aby natychmiast unieważnili i zastąpili wszystkie klucze API przechowywane na platformie.
Pomimo zapewnień startupu, że nie ma dowodów na masowe naruszenie bezpieczeństwa danych, incydent wyraźnie pokazuje rosnące ryzyko związane z wykorzystaniem infrastruktury strony trzeciej w szybko rozwijającej się dziedzinie sztucznej inteligencji.
Zakres zdarzenia
Naruszenie zostało wykryte po wcześniejszym wycieku poufnych danych klientów. W e-mailu wysłanym w poniedziałek do klientów Braintrust potwierdził „nieautoryzowany dostęp” do konkretnego konta AWS, na którym przechowywane są klucze API używane przez klientów do interakcji z modelami sztucznej inteligencji opartymi na chmurze.
Według oficjalnego komunikatu:
– Firma skontaktowała się z co najmniej jednym klientem, którego dotyczy problem.
– W tej chwili nie ma żadnych dowodów na szerszy wyciek danych poza pierwotnym kontem.
– Incydent został opanowany: zaatakowane konto zostało zablokowane, a wewnętrzne klucze dostępu zostały zaktualizowane.
We wtorek Braintrust zamieścił oficjalne oświadczenie na swojej stronie internetowej, zaznaczając, że przyczyny włamania są obecnie badane. Rzecznik firmy Martin Bergman określił masowe powiadamianie klientów jako środek zapobiegawczy. Podkreślił, że chociaż incydent dotyczący bezpieczeństwa został potwierdzony, „w tej chwili nie ma dowodów na naruszenie danych”.
Dlaczego ma to znaczenie dla infrastruktury AI
Braintrust definiuje swoją platformę jako „system operacyjny dla inżynierów tworzących oprogramowanie AI”, zapewniający narzędzia do monitorowania i oceny modeli sztucznej inteligencji. Niedawno firma zebrała 80 milionów dolarów w rundzie finansowania serii B, wyceniając ją na 800 milionów dolarów. Incydent ten uwydatnia jednak krytyczną lukę w łańcuchu dostaw sztucznej inteligencji.
Jaime Blasco, współzałożyciel start-upu Nudge Security zajmującego się cyberbezpieczeństwem, ostrzegł, że incydent może mieć „długoterminowe konsekwencje dla dotkniętych klientów”. Wiele firm zajmujących się sztuczną inteligencją w dużym stopniu polega na platformach takich jak Braintrust do zarządzania przepływami prac programistycznych. Jeśli napastnicy uzyskają dostęp do tych scentralizowanych węzłów, mogą potencjalnie zagrozić wielu dalszym systemom jednocześnie.
Ryzyko: hakerzy często atakują konta w chmurze i platformy innych firm, ponieważ stanowią one punkt wejścia zapewniający wysokie potencjalne nagrody i minimalny wysiłek. Kradzież klucza API umożliwia atakującym podszywanie się pod legalnych użytkowników, omijając tradycyjne zabezpieczenia obwodowe bez konieczności naruszania podstawowych systemów docelowej firmy.
Znany wzorzec w cyberbezpieczeństwie
Ten incydent przypomina poprzednie włamania do ekosystemu tworzenia oprogramowania. Warto zauważyć, że CircleCI, popularna platforma ciągłej integracji i wdrożeń, doświadczyła podobnego naruszenia bezpieczeństwa danych w chmurze w 2023 r. Podobnie jak Braintrust, firma CircleCI była zmuszona zalecić wszystkim klientom aktualizację „wszystkich tajemnic” (kluczy dostępu) przechowywanych w jej infrastrukturze.
Zmiany te wskazują na utrzymującą się tendencję: w miarę jak tworzenie oprogramowania i szkolenie w zakresie sztucznej inteligencji stają się coraz bardziej zależne od narzędzi innych firm, powierzchnia ataku rośnie. Bezpieczeństwo nie polega już tylko na ochronie własnych serwerów; wymaga ostrożnego zarządzania danymi uwierzytelniającymi przechowywanymi w całym ekosystemie dostawców usług.
Wniosek
Naruszenie danych firmy Braintrust przypomina w odpowiednim czasie organizacjom AI o przyjęciu podejścia Zero Trust podczas integracji z usługami stron trzecich. Choć bezpośrednie skutki incydentu wydają się być zlokalizowane, potrzeba aktualizacji kluczy uwydatnia kruchość scentralizowanego zarządzania danymi uwierzytelniającymi i ciągłą potrzebę zapewnienia rygorystycznej higieny bezpieczeństwa w całej branży technologicznej.
