Apple chce dzięki Harbor uczynić z Maca prywatny serwer AI

Apple chce dzięki Harbor uczynić z Maca prywatny serwer AI
2 min czytania

Apple miałoby przygotowywać aplikację o nazwie Harbor, która uruchamiałaby modele sztucznej inteligencji bezpośrednio na komputerach Mac, bez korzystania z chmury. Według opisu opublikowanego we wtorek 10 listopada przez Aarona Perrisa, znanego z wycieków informacji o Apple, narzędzie mogłoby łączyć kilka maszyn podłączonych przez Thunderbolt 5. Miałoby być już testowane prywatnie w firmie Claris, spółce zależnej koncernu.

Mac Studio i Mac mini znalazły w ostatnich miesiącach nową grupę odbiorców: użytkowników, którzy chcą uruchamiać modele AI u siebie, zamiast korzystać z usługi online. Dotychczas wymagało to majsterkowania z narzędziami stron trzecich, takimi jak LM Studio, Ollama czy EXO, czasem przy użyciu Terminala.

Harbor miałby być serwerem inferencyjnym, czyli oprogramowaniem, które uruchamia już wytrenowany model i odpowiada na zapytania, podobnie jak serwery OpenAI dla ChatGPT. Według opisu wszystko odbywałoby się na układzie Maca, bez opuszczania maszyny przez dane. Aplikacja wykorzystywałaby modele open-weight, których wagi, czyli parametry wyuczone podczas treningu, są publikowane i dostępne do pobrania dla wszystkich.

Kilka Maców dla jednego modelu

Harbor może wykorzystać moc dwóch lub więcej Maców dzięki połączeniu Thunderbolt 5, najnowszej wersji tej technologii, która oferuje 80 Gb/s w obie strony i do 120 Gb/s w jednym kierunku. To połączenie pozwala na sumowanie zunifikowanej pamięci maszyn, którą układ dzieli między procesor a część graficzną i która określa rozmiar modeli, jakie Mac może załadować. Grupa może dzięki temu uruchomić model zbyt duży dla jednego komputera lub obsłużyć więcej zapytań jednocześnie.

Według opisu Harbor wykrywa podłączone Maci i tworzy grupę automatycznie, bez ręcznej konfiguracji ani wiersza poleceń. Apple już zintegrowało podstawy techniczne w macOS Tahoe 26.2, z obsługą RDMA przez Thunderbolt 5, techniki pozwalającej Macowi bezpośrednio odczytywać pamięć innego z minimalnym opóźnieniem.

Niejasna dostępność

Apple niczego nie ogłosiło oficjalnie. Według 9to5Mac, który relacjonuje prezentację, Harbor jest na razie w prywatnej wersji wstępnej pod marką Claris, wydawcy FileMakera, oprogramowania pozwalającego firmom tworzyć własne aplikacje. Serwis szacuje, że premiera może nastąpić w nadchodzących tygodniach lub miesiącach, bez dalszych szczegółów.

Data publicznej premiery i warunki dostępu pozostają nieznane. Opis nie precyzuje także, jakie układy będą wymagane, ile Maców będzie można połączyć, ani jakie modele będą oferowane i na jakich licencjach.

Według strony pomocy Apple, tylko Mac Studio wprowadzony od 2025 roku, MacBook Pro z układem Pro lub Max wprowadzone od 2024 roku oraz Mac mini z układem Pro mają porty Thunderbolt 5.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x