Wiele osób podejmuje projekty związane ze sztuczną inteligencją, kierując się cichym założeniem. Jeśli wydajność jest niska, zadania trwają dłużej niż oczekiwano, a koszty rosną szybciej niż planowano, rozwiązaniem musi być zwiększenie mocy obliczeniowej. Więcej procesorów graficznych. Większe klastry. Szybsze akceleratory.
Czasami to prawda. Często jednak nie.
To coś innego stoi na przeszkodzie. Sieć. Nie dlatego, że jest zepsuta, ale dlatego, że traktowano ją jako problem rozwiązany. A sztuczna inteligencja bardzo dobrze radzi sobie z ujawnianiem problemów, które uważaliśmy za już rozwiązane.
Obciążenia związane ze sztuczną inteligencją zachowują się inaczej. Przesyłają dane nie tylko w kierunku północ-południe, ale także w poziomie. Szkolenia i wnioskowanie generują intensywny ruch wschód-zachód między procesorami graficznymi. Skoki opóźnień, które kiedyś były tolerowane, nagle stają się istotne. Zatory, które kiedyś były rzadkością, stają się stałym szumem w tle. Sieć przestaje być niewidoczna i zaczyna kształtować wyniki.
Ta zmiana jest niekomfortowa. Zwłaszcza jeśli zainwestowałeś znaczne środki w sprzęt komputerowy i oczekiwałeś, że reszta będzie nadążać.
Wyłania się jednak dość spójny wzorzec. W środowiskach korporacyjnych wydajność sztucznej inteligencji jest obecnie w mniejszym stopniu ograniczona przez samą moc obliczeniową, a w większym przez to, jak dobrze dane przepływają między systemami. Badania stanowiące podstawę Strategia AI 2025–2028: przewaga sieci Ethernet wyraźnie to pokazują, nawet jeśli nie mówią tego wprost.
I rodzi się bardziej kłopotliwe pytanie: czy optymalizowaliśmy niewłaściwą rzecz?
Dlaczego dzieje się to właśnie teraz?
Sztuczna inteligencja wyszła już z fazy pilotażowej. To oczywiste. Mniej oczywiste jest natomiast to, jaki wpływ ma to na projektowanie infrastruktury.
Gdy sztuczna inteligencja stanie się częścią podstawowych operacji, przestajesz zajmować się odizolowanymi zadaniami. Otrzymujesz nakładające się modele, mieszane akceleratory, różne zespoły wykonujące zadania w różnym czasie i z różnych powodów. Środowisko staje się chaotyczne. Realistyczne. Ludzkie.
W takich warunkach sieci zaprojektowane z myślą o przewidywalności mają trudności. Stałe założenia dotyczące wzorców ruchu nie mają już zastosowania. A jeśli korzystasz z wielu struktur, jednej dla tradycyjnych obciążeń, a drugiej dla sztucznej inteligencji, zaczynają pojawiać się utrudnienia operacyjne. Braki w umiejętnościach mają znaczenie. Złożoność się potęguje. Drobne problemy stają się systemowe.
W tym momencie Ethernet ponownie pojawia się w dyskusji.
Nie jako kompromis, jak to czasami przedstawiano w przeszłości, ale jako siła stabilizująca. Otwarte standardy. Bogata pula talentów. Znane modele operacyjne. A także coraz bardziej zbliżone do alternatywnych rozwiązań parametry wydajnościowe, dzięki czemu kompromisy nie wydają się już tak oczywiste.
Istnieje również kwestia czasu. Infrastruktura AI nie jest statyczna. Bardzo niewiele organizacji buduje ją raz i na tym kończy. W ciągu najbliższych kilku lat większość z nich będzie dodawać nowe funkcje do już istniejących rozwiązań. Brownfield i greenfield obok siebie. Sieci, które nie tolerują tej rzeczywistości, stają się zazwyczaj przeszkodą.
Czego wiele zespołów nadal nie rozumie
Myślę, że największym nieporozumieniem jest traktowanie sieci AI jako wyspecjalizowanej części centrum danych. Jako czegoś odrębnego. Jako czegoś, czym „zajmiesz się później”.
Takie podejście miało sens, gdy sztuczna inteligencja była w fazie eksperymentalnej. Ma ono mniej sensu, gdy ruch generowany przez sztuczną inteligencję jest niemal gwarantowany w sieciach budowanych obecnie, niezależnie od tego, czy się na to przygotowujesz, czy nie.
Kolejnym błędnym przekonaniem jest to, że decyzje powinny być podejmowane wyłącznie na podstawie wydajności. Wartości opóźnień, testy przepustowości, prędkości nominalne. Oczywiście mają one znaczenie. Nie mówią jednak nic o tym, jak sieć zachowuje się w czasie, pod presją, w przypadku częściowych awarii lub gdy zespoły muszą ją obsługiwać dzień po dniu.
Rzeczywistość operacyjna ma znaczenie. Podobnie jak odporność. Podobnie jak zdolność do ewolucji bez konieczności zatrzymywania wszystkiego i rozpoczynania od nowa.
Badania sugerują to, gdy mowa o ujednoliconych strukturach, aktualizacjach na żywo, telemetrii i ochronie w czasie rzeczywistym. Jeśli przeczytasz między wierszami, przekaz jest dość jasny: infrastruktura AI będzie ulegać awariom w nowy sposób i nie zawsze będziesz mieć luksus przestoju, aby ją naprawić.
To zmienia pojęcie „wystarczająco dobre”.
Cichsza zmiana, na którą warto zwrócić uwagę
Jednym z elementów, który szczególnie zwrócił moją uwagę, jest rosnący nacisk na interoperacyjność i trwałość. Nie jako abstrakcyjne ideały, ale jako praktyczne konieczności.
Większość przedsiębiorstw nie będzie stosować jednego akceleratora lub dostawcy na zawsze. Będą łączyć różne generacje. Będą testować alternatywne rozwiązania. Będą kontynuować decyzje podjęte wiele lat wcześniej. Sieć stanowi podstawę wszystkich tych działań, na dobre i na złe.
Zaletą sieci Ethernet nie jest to, że jest idealna. Chodzi o to, że jest elastyczna i nie ulega uszkodzeniom. Pozwala na stopniowe zmiany. Toleruje różnorodność. I dostosowuje się do rzeczywistego sposobu działania organizacji, a nie do tego, jak zakłada się to w projektach na tablicy.
Jest też aspekt ludzki, o którym nie mówi się wystarczająco dużo. Umiejętności związane z siecią Ethernet są powszechne. Narzędzia do debugowania są dobrze znane. Kiedy coś idzie nie tak o 2 w nocy, ma to większe znaczenie niż wykresy porównawcze.
Co to oznacza obecnie dla liderów IT?
Jeśli jesteś odpowiedzialny za infrastrukturę AI, wniosek nie brzmi „wyrzuć i wymień” ani „standaryzuj na X”. Jest to kwestia bardziej refleksyjna.
Warto zadać sobie pytanie:
Zakładamy, że sieć sobie poradzi, czy przetestowaliśmy ją pod realistycznym obciążeniem AI?
Czy rozumiemy, gdzie pojawiają się zatory i jak szybko możemy je dostrzec i zareagować?
Czy tworzymy coś, co działa tylko w przypadku dzisiejszych modeli, czy coś, co przetrwa kolejne trzy cykle sprzętowe?
I być może najtrudniejsze pytanie: jeśli wydajność sztucznej inteligencji okaże się rozczarowująca, czy będziemy wiedzieć, czy problem leży po stronie mocy obliczeniowej, czy po prostu kupimy więcej sprzętu i będziemy mieć nadzieję, że to pomoże?
Nie są to pytania natury technicznej, ale raczej dotyczące zarządzania. Znajdują się one na styku architektury, operacji i ryzyka.
Koniec tam, gdzie to naprawdę się zaczyna
Sztuczna inteligencja wpłynie na każde przedsiębiorstwo, czy to w sposób bezpośredni, czy pośredni. Nie ma co do tego żadnych wątpliwości. Nadal jednak nie wiadomo, na ile organizacje będą skłonne tolerować związane z tym utrudnienia w miarę rozwoju tej technologii.
Zespoły, które osiągają dobre wyniki, niekoniecznie będą pierwszymi, które wdrożą największe modele. Będą to te, które zbudują infrastrukturę o wystarczającej elastyczności, przejrzystości i zdolności adaptacyjnej, aby absorbować zmiany bez konieczności ciągłego przerabiania.
Najnowsze badanie przeprowadzone przez 650 Group analizuje tę dynamikę bardziej szczegółowo, w szczególności skupiając się na tym, dlaczego Ethernet staje się domyślnym wyborem dla sieci AI w przedsiębiorstwach i co to oznacza dla najbliższych kilku lat.
Jednak nawet bez badań kierunek ten staje się trudny do zignorowania.
Sztuczna inteligencja nie tylko testuje Twoją strategię obliczeniową. Testuje również Twoją gotowość do ponownego przemyślenia elementów stosu, które uważałeś za już gotowe.
Dlaczego partnerstwo jest ważniejsze niż wybór platformy
Istnieje również praktyczna rzeczywistość, którą łatwo przeoczyć. Bardzo niewiele organizacji chce zajmować się tym wszystkim samodzielnie. Projektowanie, obsługa i dostosowywanie sieci gotowych do obsługi sztucznej inteligencji obejmuje architekturę, operacje i bezpieczeństwo i rzadko mieści się w zakresie kompetencji jednego zespołu. Właśnie w tym przypadku współpraca z dostawcą usług, takim jak Damovo, może mieć realne znaczenie. Nie poprzez sprzedaż gotowego rozwiązania, ale poprzez pomoc w wyraźniejszym dostrzeżeniu kompromisów, przetestowaniu założeń w warunkach ekstremalnych i zbudowaniu czegoś, co pasuje do Twojego środowiska, a nie do idealnego. Czasami wartość nie leży w wyborze nowej technologii, ale w posiadaniu doświadczonego partnera, który może wcześnie podważać decyzje, upraszczać to, co już jest skomplikowane, i pozostawać zaangażowanym w rozwój sieci, zamiast znikać po jej uruchomieniu.