Thought Leadership
Databricks, das Daten- und KI-Unternehmen, kündigte mehrere Neuerungen für Mosaic AI an, die Kunden bei der Erstellung von produktionsreifen generativen KI-Anwendungen unterstützen.
Databricks investiert in Mosaic AI in drei Schlüsselbereichen: Unterstützung beim Aufbau zusammengesetzter KI-Systeme, Funktionen zur Verbesserung der Modellqualität und neue KI-Governance-Tools. Die daraus resultierenden Innovationen geben den Kunden die Sicherheit, Anwendungen in Produktionsqualität zu erstellen und zu messen, um die Versprechen der generativen KI für ihr Unternehmen zu erfüllen.
Unternehmen tun sich schwer damit, generative KI-Projekte aus Datenschutz-, Qualitäts- und Kostengründen von der Pilotphase in die Serienproduktion zu überführen. Zwar haben sich die Basismodelle alle deutlich verbessert, doch haben sie immer noch Schwierigkeiten, qualitativ hochwertige Ergebnisse zu liefern. Die leistungsstärksten Modelle können immer noch Antworten geben, die ungenau oder unsicher sind oder vertrauliche Daten preisgeben. Um diese Herausforderungen zu bewältigen, gehen Unternehmen dazu über, nicht nur ein einziges, großes Modell einzusetzen, sondern zusammengesetzte KI-Systeme zu verwenden. Bei diesem Ansatz kommen mehrere Komponenten zum Einsatz, darunter verschiedene Modelle, Retriever, Vektordatenbanken und Tools für Bewertung, Überwachung, Sicherheit und Governance. Infolgedessen bieten zusammengesetzte KI-Systeme eine viel höhere Produktionsqualität und ermöglichen es Unternehmen, präzisere, sicherere und besser kontrollierte KI-Anwendungen effizient bereitzustellen.
Um Kunden bei der Entwicklung produktionsreifer generativer KI-Anwendungen zu unterstützen, bringt Databricks das Mosaic AI Agent Framework, das Mosaic AI Quality Lab, den Mosaic AI Tools Catalog, das Mosaic AI Model Training und das Mosaic AI Gateway auf den Markt.
Mosaic AI Agent Framework und Mosaic AI Tools Catalog helfen Unternehmen bei der Entwicklung komplexer KI-Systeme
Databricks führt mehrere neue Funktionen ein, um Kunden bei der Bereitstellung von unternehmensfähigen Compound AI-Systemen zu unterstützen. RAG ist eine Art von zusammengesetztem KI-System, da es mehrere Komponenten wie eine Vektordatenbank und Tools für die Überwachung, Bewertung, Sicherheit und Governance verwendet, um die Genauigkeit des LLM zu verbessern. Im Mai kündigte Databricks die allgemeine Verfügbarkeit von Mosaic AI Vector Search an, einer serverlosen Vektordatenbank, die nahtlos in die Data Intelligence Platform integriert ist. Jetzt kündigt Databricks das Mosaic AI Agent Framework an, das es Entwicklern leicht macht, schnell und sicher hochwertige RAG-Anwendungen zu erstellen, indem sie Basismodelle und ihre Unternehmensdaten verwenden. Sie können die Qualität ihrer RAG-Anwendung mit dem Mosaic AI Quality Lab bewerten, schnell iterieren und ihre Anwendung problemlos erneut bereitstellen. Mosaic AI Quality Lab ist ein KI-gestütztes Evaluierungstool, das automatisch feststellt, ob die Ergebnisse qualitativ hochwertig sind, und eine intuitive Benutzeroberfläche bietet, um Feedback von menschlichen Stakeholdern zu erhalten. Zusammengenommen helfen diese Funktionen Unternehmen dabei, generative KI-Lösungen in Produktionsqualität einzusetzen.
Compound AI-Systeme nutzen häufig Tools als Funktionen, die diese Systeme mit neuen Fähigkeiten ausstatten, um mit der Welt zu interagieren, wie z. B. intelligentes Generieren und Ausführen von Code, Durchsuchen des Internets, Aufrufen von APIs und mehr. Mit Mosaic AI Tools Catalog können Unternehmen Tools mit Databricks Unity Catalog verwalten, freigeben und registrieren. Dadurch wird sichergestellt, dass Modelle, die mit Tools ausgestattet sind, diese auf sichere und kontrollierte Weise nutzen können, und dass diese Tools im gesamten Unternehmen auffindbar sind.
Mosaic AI Model Training ermöglicht die Feinabstimmung von Basismodellen, erhöht die Modellqualität und senkt die Kosten
Mit Mosaic AI Model Training werden Open-Source-Basismodelle mit den privaten Daten eines Unternehmens feinabgestimmt und mit neuem, für den jeweiligen Bereich oder die jeweilige Aufgabe spezifischem Wissen versehen. Diese fein abgestimmten Modelle befinden sich vollständig im Besitz und unter der Kontrolle des Kunden und liefern qualitativ hochwertigere Ergebnisse für bestimmte Anwendungsfälle, da sie mit den privaten Daten des Unternehmens für spezielle Aufgaben trainiert wurden. Kleinere Modelle, die durch Model Training feinabgestimmt wurden, sind nicht nur genauer für bestimmte Bereiche, sondern auch schneller und kostengünstiger als größere proprietäre Modelle, da sie weniger Parameter haben und weniger Rechenleistung benötigen.
Mosaic AI Gateway bietet Governance für alle Ihre GenAI-Anwendungen und -Modelle
Mosaic AI Gateway bietet eine einheitliche Schnittstelle zum Abfragen, Verwalten und Bereitstellen beliebiger Open-Source- oder proprietärer Modelle, so dass Kunden die großen Sprachmodelle (LLMs), die ihre Anwendungen antreiben, einfach wechseln können, ohne komplizierte Änderungen am Anwendungscode vornehmen zu müssen. Die Lösung unterstützt die Nachverfolgung der Nutzung und Leitplanken, so dass Unternehmen nachverfolgen können, wer das Modell aufruft, Ratenbeschränkungen einrichten können, um die Ausgaben ihrer Unternehmensnutzer zu kontrollieren, und unabhängig vom verwendeten Modell nach Sicherheit und persönlich identifizierbaren Informationen (PII) filtern können. Und schließlich bietet es integrierte Governance- und Überwachungsfunktionen, um die Qualität kontinuierlich zu gewährleisten.
Verfügbarkeit
Mosaic AI Agent Framework, Mosaic AI Quality Lab, Mosaic AI Model Training und Mosaic AI Gateway sind jetzt in der öffentlichen Vorschau. Mosaic AI Tools Catalog ist in der privaten Vorschau.
(pd/Databricks)
