Apple soll eine Anwendung namens Harbor vorbereiten, die KI-Modelle direkt auf seinen Mac-Computern laufen lässt, ohne die Cloud zu nutzen. Laut der am Dienstag, den 10. November, von Aaron Perris, einem bekannten Apple-Insider, veröffentlichten Beschreibung könnte das Tool mehrere über Thunderbolt 5 verbundene Maschinen zusammenfassen. Es soll bereits in einem privaten Test bei Claris, einer Tochtergesellschaft des Konzerns, laufen.
- Apple soll Harbor vorbereiten, eine Software, die KI-Modelle lokal auf Macs betreibt.
- Mehrere Macs könnten über Thunderbolt 5 gemeinsam ein großes Modell ausführen.
- Daten verlassen das Gerät nicht, da alles ohne Cloud läuft.
- Apple hat noch nichts offiziell angekündigt, der Starttermin ist unklar.
Der Mac Studio und der Mac mini haben in den letzten Monaten ein neues Publikum gefunden: Nutzer wollen KI-Modelle lieber lokal betreiben, als auf einen Onlinedienst zurückzugreifen. Bisher erforderte dies Bastelarbeit mit Drittanbieter-Tools wie LM Studio, Ollama oder EXO, manchmal auch über das Terminal.
Harbor wäre ein Inferenz-Server, also eine Software, die ein bereits trainiertes Modell betreibt und Anfragen beantwortet, ähnlich wie die Server von OpenAI für ChatGPT. Laut der Beschreibung würde alles auf dem Mac-Chip ablaufen, ohne dass Daten das Gerät verlassen. Die App würde Open-Weight-Modelle nutzen, deren Gewichte, also die während des Trainings erlernten Parameter, veröffentlicht und von allen heruntergeladen werden können.
Mehrere Macs für ein einziges Modell
Harbor kann die Leistung von zwei oder mehr Macs über eine Thunderbolt-5-Interkonnektion nutzen, der neuesten Version dieser Schnittstelle, die 80 Gb/s in beide Richtungen und bis zu 120 Gb/s in eine Richtung bietet. Diese Verbindung ermöglicht es, den Unified Memory der Geräte zusammenzufassen, den der Chip zwischen CPU und Grafikteil teilt und der die Größe der Modelle bestimmt, die ein Mac laden kann. So kann die Gruppe ein Modell betreiben, das für einen einzelnen Computer zu groß ist, oder gleichzeitig mehr Anfragen bearbeiten.
Laut der Beschreibung erkennt Harbor angeschlossene Macs und bildet die Gruppe automatisch, ohne manuelle Einstellungen oder Kommandozeile. Apple hat die technische Basis bereits in macOS Tahoe 26.2 integriert, mit Unterstützung für RDMA über Thunderbolt 5, einer Technik, die es einem Mac ermöglicht, mit sehr geringer Verzögerung direkt auf den Speicher eines anderen zuzugreifen.
Eine noch unklare Verfügbarkeit
Apple hat nichts offiziell angekündigt. Laut 9to5Mac, der die Präsentation aufgreift, ist Harbor derzeit in einer privaten Vorschau unter der Marke Claris verfügbar, die FileMaker vertreibt, eine Software, mit der Unternehmen eigene Anwendungen erstellen können. Das Medium schätzt, dass ein Start in den kommenden Wochen oder Monaten erfolgen könnte, ohne weitere Details.
Das öffentliche Veröffentlichungsdatum und die Zugangsvoraussetzungen sind noch unbekannt. Die Beschreibung gibt auch nicht an, welche Chips erforderlich sein werden, wie viele Macs verbunden werden können oder welche Modelle unter welchen Lizenzen angeboten werden.
Laut der Apple-Support-Seite verfügen nur der seit 2025 erhältliche Mac Studio, die seit 2024 erhältlichen MacBook Pro mit Pro- oder Max-Chip und der Mac mini mit Pro-Chip über Thunderbolt-5-Anschlüsse.
