Thought Leadership
KI entwickelt sich zu einer allgegenwärtigen Technologie, die Hochleistungsserver erfordert, die speziell für KI-Training und Inferencing nentwickelt wurden. Unternehmen stehen vor der Frage, ob sie die Angebote von KI-Cloudanbietern nutzen sollen, um Zugang zu KI-Training und -Inferencing zu erhalten, oder ob sie besser in eigene KI-Server investieren sollten.
Hierbei müssen mehrere Faktoren bedacht werden, die es Unternehmen ermöglichen, eine optimale Wahl zu treffen und die Rentabilität unter dem Gesichtspunkt der Implementierung und der Kosten zu maximieren.
Da das Training von KI-Modellen auf vorhandenen Daten basiert, muss sich dieser Prozess in einem Unternehmen auf Unternehmensdaten stützen. Viele dieser Daten sind möglicherweise für das Unternehmen von großer Wichtigkeit, entsprechend vertraulich und hinter einer Firewall mit spezifischen Berechtigungen gesichert. Die Implementierung eines KI-Trainingssystems mit Unternehmensdaten in einem On Premise-Rechenzentrum ist daher oft sinnvoll. Ein Unternehmen hat möglicherweise strengere Anforderungen an seine Daten als ein KI-Cloudanbieter und verfügt über andere oder maßgeschneiderte Cybersicherheitsmaßnahmen.
In vielen Branchen können Daten nur an bestimmten geografischen Standorten gespeichert werden. Wenn Daten vor Ort gespeichert werden, hat man die volle Kontrolle darüber, wo die Daten aufbewahrt und archiviert werden. Bei der Nutzung von KI-Cloudanbietern, wo Daten hochgeladen werden müssen, gibt es möglicherweise keine Garantie, dass die Daten an dem angegebenen Ort aufbewahrt werden, insbesondere wenn Cloud-basierte Backups in Betracht gezogen werden.
Es gibt viele GPU-Optionen, die von verschiedenen Serveranbietern angeboten werden. Für einige Workloads in der KI-Pipeline sind GPUs möglicherweise gar nicht erforderlich. Die neuesten CPUs verfügen über eine erhebliche KI-Verarbeitungsleistung auf der CPU selbst, was zu einer akzeptablen Leistung und niedrigeren Kosten für die Server führen kann. Darüber hinaus können Unternehmen möglicherweise die neuesten KI-Beschleuniger vom Anbieter erwerben und in ihre IT-Umgebung integrieren, bevor ein Cloudanbieter dazu in der Lage ist.
Die Wahl der richtigen Server
Die Anschaffung von GPU-Servern kann korrekt budgetiert werden, und die Betriebskosten können sehr genau geschätzt werden. Umgekehrt kann die Nutzung einer Reihe von Servern bei einem KI-Cloudanbieter zu unvorhersehbaren Rechnungen führen. Die Datenmenge, die in die Cloud gesendet und aus der Cloud zurückgeschickt werden muss, kann die Kosten erheblich in die Höhe treiben. Auch die Reservierung von GPU-Instanzen, ohne sie zu nutzen, kann die Kosten in die Höhe treiben.
Auf dem Markt sind heute viele verschiedene Arten von KI-Servern erhältlich. Die spezifisch benötigte Konfiguration und Leistung eines KI-Servers ist möglicherweise aber nicht bei einem KI-Cloudanbieter verfügbar. Die Anschaffung von KI-Servern, die für die benötigte Art von Training oder Inferencing-Workflows konfiguriert sind und den spezifischen Anforderungen eines Unternehmens entsprechen, kann die Gesamtkosten senken.
Es gibt zwar verschiedene Methoden zur Schätzung der Kosten für das Training eines KI-Modells einer bestimmten Größe und Anzahl benötigter GPUs, aber viele KI-Modelle müssen ständig mit neuen Parametern trainiert werden. Um die Genauigkeit der Schlussfolgerungen zu gewährleisten, muss das KI-Modell mit aktualisierten und neueren Daten neu trainiert werden, was je nach der Menge der verwendeten neuen Daten genauso lange dauern kann wie das ursprüngliche Training. In einem On Premise-Rechenzentrum können die Systeme wiederholt verwendet werden, während in der öffentlichen Cloud die Kosten mit jeder Iteration und Neutrainierung des KI-Modells ansteigen.
Optionen ermöglichen eine fundierte Entscheidungsfindung
Die Cloud ist zwar dafür bekannt, dass sie eine erhebliche Skalierung von Anwendungen ermöglicht, aber die angeforderten Server sind möglicherweise nicht immer verfügbar. Mit der Investition in eigene KI-Server können Unternehmen die eigenen Skalierungsrichtlinien umsetzen, ohne mit einem Drittanbieter verhandeln zu müssen und möglicherweise mehr für ungenutzte Reservierungen zu zahlen.
Es gibt eine Reihe von Herstellern, die KI-Server anbieten, was den Einkauf günstiger macht. Wenn zudem KI-Server verschiedener Anbieter mit derselben Software zertifiziert sind, ist ein Wechsel von einem Anbieter zum anderen möglich. Der Wechsel von einer Cloud in eine andere ist komplexer und zeitaufwändiger.
Bei der Entwicklung einer effizienten und effektiven KI-Trainingslösung sind viele Softwareoptionen zu berücksichtigen. Ein öffentlicher, gemeinsam genutzter Cloud-Anbieter verfügt möglicherweise nicht über alle verfügbaren Komponenten, was zusätzliche Einstellungen und Tests für jede in einer öffentlichen Cloud-Infrastruktur erworbene Instanz erforderlich machen kann.
Eigene KI-Server können passgenau und kostengünstig konfiguriert werden, um den Anforderungen des Unternehmens gerecht zu werden. Das Verständnis der Workloads, der Datenmenge, der Feinabstimmung des KI-Workflows und der internen Expertise mit verschiedenen Softwareschichten hilft dabei, die beste Option für ein Unternehmen zu bestimmen.
