• Generative KI

    Die generative KI ist bereit.
    Sind Sie es auch?

    Intel® Innovativ bis ins Detail

      • Ausgangspunkt

        Ein neues Zeitalter generativer KI

        Generative KI (GenAI) wird von Unternehmen und Einzelpersonen in großem Umfang genutzt und führt so zu erheblichen gesellschaftlichen Auswirkungen. KI für den Privatgebrauch wie ChatGPT und DALL-E begeistert mit der Fähigkeit zur Generierung von Inhalten. Unternehmen können sich von generativer KI jedoch noch mehr versprechen, z. B. gesteigerte Produktivität, Kostensenkung und eine Transformation der Arbeitsweise.

      • 76%

        af it-ledere mener, at GenAI vil have en betydningsfuld, hvis ikke transformerende effekt på deres organisation.

        Unternehmenstransformation durch generative KI

        Generative KI bringt zwar Vorteile, aber auch neue Herausforderungen und Risiken mit sich. In ihren Bemühungen um die Vorreiterrolle in generativer KI können Unternehmen das Vertrauen ihrer KundInnen und wertvolle Daten nicht aufs Spiel setzen.

        76%

        af it-ledere mener, at GenAI vil have en betydningsfuld, hvis ikke transformerende effekt på deres organisation.

      • Die richtigen Daten für Ihren Anwendungsfall

        Um die Leistungsfähigkeit von GenKI effektiv nutzen zu können, müssen Unternehmen umfassende, qualitativ hochwertige Daten strategisch nutzen. Die besten Anwendungsfälle beruhen auf diesen Daten und erfordern eine ausgewogene Mischung aus Kompetenzen, Budgets und Ressourcen, was die Bedeutung der Zusammenarbeit zwischen Geschäfts- und IT-Teams bei der Festlegung von Prioritäten unterstreicht.

        • Erstellen von Inhalten

        • Suche in natürlicher Sprache

        • Codegenerierung

        • Digitaler Assistent

        • Design und Datenerstellung

        • Dokumentautomatisierung

      • Zum Erfolg mit generativer KI

        Auch wenn bereits Hunderte von Anwendungsfällen in allen möglichen vertikalen Märkten zutage gefördert wurden, können Sie mit den passenden Anwendungsfällen für Ihr Unternehmen schneller Erfolge erzielen.

      • MitarbeiterInnen und Teams

        Bereiten Sie Ihr Unternehmen darauf vor, die Möglichkeiten generativer KI wahrzunehmen, wobei sich die IT-Abteilung nach innen und das Geschäft nach außen richten.

      • Prozesse und Richtlinien

        Definieren und kommunizieren Sie, wie Ihr Unternehmen KI nutzen wird, und beziehen Sie dabei die MitarbeiterInnen fest mit ein.

      • Technologie

        Stellen Sie sicheren Zugriff auf generative KI in Ihrem gesamten Unternehmen bereit und vermeiden Sie den Einsatz von Schatten-KI. So sorgen Sie für Datenintegrität und Compliance.

      • Strategie

        Erfassen Sie den aktuellen Zustand Ihrer Umgebung im Hinblick auf Ihre strategische Vision und Leitprinzipien für zukünftige Initiativen in generativer KI.

      • Die entscheidende Rolle Ihrer Daten für generative KI

        Daten und Risiken gehen Hand in Hand. Daten treiben Ihre Initiativen in generativer KI voran. Andererseits müssen Sie auch die potenziellen Risiken des Hostings von generativen KI-Modellen in Public Clouds berücksichtigen, unter anderem den Verlust und die Verletzung geistigen Eigentums sowie Datenlecks, Datenschutzprobleme, Verstöße gegen die Compliance, Glaubwürdigkeits- und Integritätsverlust und Voreingenommenheit.

        • Risikomanagement und Nutzensteigerung

          Zu Beginn müssen Investitionen in Technologie und Schulung aufeinander abgestimmt werden, um den betrieblichen Reifegrad zu steigern, Risiken zu senken, die Kontrolle zu verbessern und den Nutzen für Ihr Unternehmen zu maximieren. Mit unternehmenstauglicher generativer KI haben Sie die Kontrolle darüber, wer auf Ihre Daten zugreift.

      • Enterprise-fähige GenAI Unausgereifte GenAI Betriebliche Reife Risiko
        Das Diagramm zeigt, dass das Risiko (Y-Achse) im Laufe der Zeit abnimmt, wenn Sie die operative Reife (X-Achse) Ihrer Datenverarbeitung erreichen. Der Beginn der Steigung des Diagramms zeigt eine unreife GenAI mit hohem Risiko und geringer operativer Reife. Der Abwärtstrend im Diagramm deutet darauf hin, dass KI für Unternehmen das Risiko verringert und für einen hohen betrieblichen Reifegrad steht.

      • NUTZUNG VON KI MIT IHREN DATEN

        Modelle generativer KI basierend auf Ihren Daten

        • Das Verständnis der Risiken und Vorteile verschiedener Bereitstellungsoptionen ist entscheidend, um die optimale Workload-Platzierung für GenAI in Ihrem Unternehmen zu bestimmen. Wenn es darum geht, KI für Ihre Daten bereitzustellen, bieten die Bereitstellung privater Instanzen von GenAI-großen Sprachmodellen (LLMs) wie Llama 2 oder Falcon Vorteile in Bezug auf Geschwindigkeit und Bereitstellung, können aber auch höhere Kosten und andere Nachteile mit sich bringen. In jedem Fall wird die interne generative KI wahrscheinlich den größten Nutzen für Ihre frühen Bemühungen bieten.

          In Bezug auf die Workload-Platzierung unterscheidet sich generative KI nicht von anderen Workloads. Um die besten Ergebnisse zu erzielen, sollten Sie sie in der Umgebung einsetzen, die für Ihre geschäftlichen und technischen Anforderungen am sinnvollsten ist.

          Das folgende Diagramm vermittelt Konzepte und Frameworks der Workload-Platzierung für generative KI.

      • Wo sich die Daten befinden Kosten Schnellere Wertschöpfung Genauigkeit und Anpassung Allgemeine Anwendungsfälle Sicherer Zugriff Public Cloud Private Cloud
        Ein Diagramm mit sechs Faktoren, die bei der Auswahl zwischen einer Private Cloud oder einer Public Cloud für die GenAI-Workload-Platzierung zu berücksichtigen sind. "Wo sich Daten befinden" und "Sicherer Zugriff" tendieren stark zur Private Cloud. "Kosten" tendieren moderat in Richtung Private Cloud und "Genauigkeit und Anpassung" leicht in Richtung Private Cloud. "Schnellere Wertschöpfung" tendiert leicht zur Public Cloud. Bei "allgemeinen Anwendungsfällen" geht es stark um die Public Cloud.

        • Datenmanagement für generative KI

          Die meisten Unternehmen verfolgen bei ihrer Strategie der generativen KI einen zweistufigen Ansatz. Sie experimentieren mit taktischen Bereitstellungen, um zu lernen und nicht abgehängt zu werden, und entwickeln gleichzeitig eine langfristige Strategie für die vielen Anwendungsfälle, die sich im Laufe der Zeit herauskristallisieren werden. Dieser Ansatz erfordert daher eine zweistufige Datenmanagementstrategie.

        DATENVORBEREITUNG
        DATENTECHNIK

        • Datenvorbereitung

        • Datenermittlung

          Identifizieren von Datenvolumen und Festlegen von Datenanforderungen

        • Datenexploration und -anreicherung

          Design und Implementierung von Datenpipelines zur Markierung, Bereinigung, Kennzeichnung und Anonymisierung von Daten

        • Kurzfristig: Datenvorbereitung

          Die Datenvorbereitung umfasst das Identifizieren von Datenvolumen und das Festlegen von Datenanforderungen, gefolgt von der Bereinigung, Kennzeichnung und Anonymisierung der Daten und dann deren Normalisierung über Datenquellen hinweg. Darüber hinaus müssen Datenpipelines erstellt werden, um die Daten in ein Modell zu integrieren.

        • Datentechnik

        • Datenaufnahme

          Integrieren von Unternehmensdaten in große Sprachmodelle

        • Beobachtbarkeit und Performance

          Überprüfen, ob die transformierten Daten die Ziele erfüllen

        • Langfristig: Datentechnik

          Unternehmen benötigen ein gut strukturiertes Datenrepository, z. B. einen Data Lake oder ein Data Lakehouse, um ihre Daten in Modelle generativer KI zu integrieren. Durch den iterativen Aufbau des Data Lake erweitern Sie schrittweise die Funktionen des Datenrepositorys für generative KI, während das Team seine Kompetenzen in Datenmanagement und generativer KI ausbaut.

        • „Durch die Zusammenarbeit [mit Dell Technologies] können Unternehmen ihre eigenen KI-Systeme aufbauen, indem sie die tollen Innovationen der Open-Source-Community nutzen und gleichzeitig von der Sicherheit, Compliance und Performance von Dell Systemen profitieren.“

          Jeff Boudier, Head of Product and Growth, Hugging Face

      • KI DER RICHTIGEN GRÖẞE

        Festlegen der Infrastruktur und richtigen KI-Größe

      • 75%

        Dell AI solutions for inferencing LLMs on-premises can be up to 75% more cost effective than the public cloud.1

        Basierend auf Ihren eindeutigen Daten können Sie bereichs- und unternehmensspezifische Anwendungsfälle verwenden. Durch Aufgaben oder Funktionen, für die nur Sie die Daten haben, schaffen Sie so einen Nutzen für die Branche. Die verschiedenen Arten generativer KI erfordern entsprechende Einstiegspunkte und Investitionen für den Erfolg. LLMs, die mit riesigen Textmengen trainiert wurden, sind wie Enzyklopädien: Sie sind zwar hilfreich für den allgemeinen Gebrauch, eignen sich jedoch möglicherweise nicht zum Beantworten spezifischer Fragen zu Ihren Unternehmensdaten.

        75%

        Dell AI solutions for inferencing LLMs on-premises can be up to 75% more cost effective than the public cloud.1

      •  

         

      • Ihre Daten verbessern die Effizienz und den Nutzen generativer KI erheblich

      • Eingeschränkte Funktionalität Kleinste/kosteneffizienteste Lösung Fachwissen in diesem Bereich Höchste Genauigkeit Kleinere Größe Genauer Weitere Halluzinationen Kostspielig und energieintensiv Breite der Anwendungsfälle Allgemeine Zwecke Enterprise-spezifisch Domänenspezifisch Große Sprachmodelle Wert
        Grafik, die die relativen Datenmengen zeigt, die für 3 Arten von KI-Modellen erforderlich sind, sowie ihren geschäftlichen Nutzen. Große Sprachmodelle (Large Language Models, LLMs) sind für allgemeine Anwendungsfälle gedacht und nutzen die meisten Daten. Sie können kostspielig und energieintensiv sein und sind anfälliger für Halluzinationen. Domänenspezifische KI verwendet weniger, dafür aber spezifischere Daten. Es hat eine eingeschränkte Funktionalität, ist aber für Ihr Unternehmen relevanter und hat mehr Wert. Unternehmensspezifische KI benötigt noch weniger Daten, ist aber am spezifischsten und genauesten und bietet den größten Nutzen für Ihr Unternehmen.

      • KI-Bereitstellungsmodelle: Bewerten des Kosten-Nutzen-Verhältnisses

        Die ersten drei Bereitstellungsmodelle unten werden von Unternehmen derzeit am häufigsten implementiert: Diese fangen mit der „Modellaugmentierung“ an und entscheiden sich letztendlich für die „Feinabstimmung von Modellen“. Für welches KI-Modell Sie sich entscheiden, hängt vom Grad der Data-Science-Bereitschaft Ihres Unternehmens, den Bereitstellungsmustern und den damit verbundenen Implikationen ab.

      • Vorab trainiertes Modell

        Bei diesem Ansatz, der als "Prompt Engineering" bezeichnet wird, wird einem vortrainierten Modell eine Frage gestellt und ein Ergebnis erhalten.
        Beispiel: ChatGPT

        Modellaugmentierung

        Optimieren Sie Ihr Modell generativer KI, indem Sie Ihre Daten hinzufügen und somit zusätzlichen Kontext für die Antworten bereitstellen. Dies geschieht z. B. durch Inferencing, das Anwendungsfälle wie Retrieval-Augmented Generation (RAG) umfasst.

        Feinabstimmung von Modellen

        Dazu gehören die Anpassung der Modellgewichtung und die Integration Ihrer Daten. Dies führt zwar zu verbesserten Ergebnissen, erfordert aber auch einen höheren Aufwand während der Einrichtung.

        Modelltraining

        Dafür wird ein spezifisches Modell entwickelt und mit einem Datenvolumen trainiert. Dies erfordert in der Regel die meiste Arbeit und die meisten Ressourcen und wird häufig nur für die Lösung komplexer Probleme verwendet.
        Aufwand Aufwand gering Aufwand mittel Aufwand hoch Aufwand erheblich
        Kosten Kosten gering Kosten mittel Kosten hoch Kosten erheblich
        Nutzen und
        Differenzierung        		 Nutzen und Differenzierung minimal Nutzen und Differenzierung mittel Nutzen und Differenzierung hoch Nutzen und Differenzierung erheblich
        Datenintegration Keine Datenintegration Datenintegration hoch Datenintegration hoch Datenintegration erheblich
        Infrastruktur Client – Server Client – Server GPU-optimiert Große GPU-Bereitstellung
        Kompetenzen IT-Betrieb EntwicklerIn Data Scientist(s) Data Scientist(s)
        Referenz zur vereinfachten Bereitstellung Validiertes Design Referenzdesign Validiertes Design Referenzdesign

      • Auswahl der richtigen Infrastruktur für Ihr Modell

        Die Infrastruktur für die Bereitstellung der generativen KI hängt größtenteils von den Rechenanforderungen ab, die von Modelltyp, Modellgröße und Anzahl der NutzerInnen beeinflusst werden. Darüber hinaus muss die erforderliche Storage-Kapazität für Daten berücksichtigt werden, die für Bereitstellung, Training und Modellverfeinerung verwendet werden.

      • ALLGEMEINES COMPUTING (CPU-orientiert) KI-OPTIMIERT (GPU-intensiv) Dell Laptops Dell Precision-Workstations PowerEdge-Rack-Server PowerEdge XE-Server ObjectScale-Storage PowerScale-Storage PowerFlex-Storage PowerSwitch-Switches der Z Serie Modelltraining Feinabstimmung des Modells Modellaugmentierung Vorab trainiertes Modell Millionen von Parametern Milliarden von Parametern Billionen von Parametern Geringe Anzahl von Benutzern Hohe Anzahl von Benutzern
        Diagramm, das drei GenAI-Anforderungen darstellt und sie den entsprechenden Dell Hardwarelösungen zuordnet Die Hardwarelösungen reichen von allgemeinen Compute-Optionen, die CPU-orientiert sind, bis hin zu KI-optimierten Optionen, die GPU-intensiv sind. Die spezifischen Optionen beginnen bei Dell Laptops auf der allgemeinen Compute-Seite und gehen über Precision-Workstations und PowerEdge-Server bis hin zu PowerEdge XE-Servern auf der Seite der KI-optimierten Lösungen. Beachten Sie, dass Dell Storage- und Netzwerkhardware für das gesamte Sortiment verwendet werden kann. Diesen Lösungen werden drei GenKI-Infrastrukturattribute zugeordnet, die immer mehr Verarbeitungsgeschwindigkeit erfordern. Die Komplexität des Modells kann von der Verwendung vortrainierter Modelle über die Erweiterung oder Feinabstimmung von Modellen bis hin zum Trainieren neuer Modelle reichen. Die Anzahl der Parameter kann von Millionen über Milliarden bis hin zu Billionen reichen.

      • Schnelleres Umsetzen der KI-Strategie

        Frühzeitige Erfolge

        RAG (Retrieval-Augmented Generation) ist ein idealer Einstiegsanwendungsfall für viele Unternehmen, da auf zusätzliche Ressourcen wie die eigenen Daten zugegriffen wird, um ein Modell ohne erneutes Training zu erweitern. Erfahren Sie mehr zur Einrichtung von RAG-Anwendungsfällen zur Verbesserung Ihres Unternehmens und Ihrer Daten.

      • RAG-Anwendungsfall

        Anwenden von RAG auf ein benutzerdefiniertes PDF-Datenvolumen

      • DELL VALIDATED DESIGN FÜR RAG

        Bereitstellen eines digitalen Assistenten auf der Dell APEX Cloud Platform for Red Hat OpenShift

    • Schnellere Umsetzung mit Dell

      Dell unterstützt Sie mit einem ganzheitlichen End-to-End-Ansatz vom Schreibtisch bis zum Rechenzentrum dabei, Barrieren aus dem Weg zu räumen und Strategien generativer KI unternehmensweit einzuführen.

    • PowerEdge-Server für KI

    • Storage für KI

    • Datenmanagement für KI

    • Dell Precision-Workstations

    • KI-fähige Laptops

    • Dienstleistungen für KI

    •  Nr. 1Basierend auf einer von Dell in Auftrag gegebenen Studie der Enterprise Strategy Group "Maximizing AI ROI: Inferencing On-Premises With Dell Technologies Can Be 75 % More Cost-Effective Than Public Cloud", bei der die lokale Dell Infrastruktur mit nativen Public-Cloud-Infrastrukturen verglichen wurden: Infrastructure as a Service und tokenbasierte APIs, April 2024. Die erwarteten Kosten wurden unter Verwendung von RAG für kleine (5.000 Nutzer), mittlere (10.000 Nutzer) und große (50.000 Nutzer) und zwei LLMs (7B- und 70B-Parameter) über 3 Jahre modelliert. Die tatsächlichen Ergebnisse können abweichen. Wirtschaftliche Zusammenfassung