• Generativ AI

    Generativ AI är här:
    Är du redo?

    Intel® Innovation inbyggd
      • Utgångspunkt

        En ny era av generativ AI

        Generativ AI (GenAI) utnyttjas i enorm skala av både organisationer och individer, vilket har en betydande inverkan på samhället överlag. AI i konsumentklass, till exempel ChatGPT och DALL-E, har skapat ett oerhört intresse tack vare sin förmåga att generera innehåll. Men det är GenAI:s inverkan på organisationer som är den verkliga värdeskaparen, vilket inkluderar ökad produktivitet, lägre kostnader och en omvandling av vårt arbetssätt.

      • 76%

        av IT-cheferna tror att GenAI kommer att vara betydande, eller rentav omvälvande, för deras organisation.

        GenAI kommer att omvandla organisationer

        GenAI medför inte bara fördelar utan även nya utmaningar och risker. I takt med att organisationer startar sina GenAI-resor måste de se till att de inte förlorar kundernas förtroende eller det höga värdet av sina egna data enbart för att vara först med att implementera nya lösningar.

        76%

        av IT-cheferna tror att GenAI kommer att vara betydande, eller rentav omvälvande, för deras organisation.
      • Den avgörande rollen för dina data i generativ AI

        Data och risker går hand i hand. Data kommer att driva GenAI-projekten framåt, vilket betyder att du måste bedöma de potentiella riskerna med att vara värd för GenAI-modeller i offentliga moln, inklusive risken för förlust av immateriell egendom, dataläckage, sekretessproblem, efterlevnadsöverträdelser, förlust av trovärdighet och integritet, bristande objektivitet och IP-intrång.

        • Hantera risker och öka värdet

          När du startar din resa är det viktigt att investeringarna i teknik och träning anpassas till målet för att öka den operativa mognaden, minska riskerna, förstärka kontrollen och maximera värdet för organisationen. Med startklar GenAI för företag kan du ta kontroll över vem som har åtkomst till dina data.

      • Risk kontra operativ mognad för omogen generativ AI och startklar generativ AI för företag.

        Risk kontra operativ mognad för omogen generativ AI och startklar generativ AI för företag.
      • Uppnå framgång med generativ AI

        Företag har skapat hundratals användningsfall över alla vertikala modeller och därmed är det avgörande att man väljer rätt sorts användningsfall.


      • People and teams

        Medarbetare och team

        Förbered organisationen för att ta tillvara på alla GenAI-möjligheter – IT-avdelningar bör rikta fokus inåt medan affärsfunktioner riktar det utåt.

      • Processes and policies

        Processer och policyer

        Definiera och kommunicera hur organisationen kommer att utnyttja AI och göra lösningen till en viktig del av företaget för att engagera medarbetarna.

      • Technology

        Technology

        Leverera säker åtkomst till GenAI i hela organisationen genom att undvika instanser av skugg-AI och säkerställa dataintegriteten och efterlevnaden.

      • Strategy

        Strategi

        Beskriv det befintliga skicket av din miljö för att fastställa den strategiska visionen och de vägledande principerna för framtida GenAI-projekt.

        • Ta AI till dina data

          Utnyttja rätt sorts data

          De bästa användningsfallen utnyttjar dina omfattande data och förlitar sig på din AI-beredskap, men samtidigt krävs det att du har rätt kombination av kompetenser, budgetar och resurser för att stödja dem. Det är viktigt att affärs- och IT-teamen samarbetar för att fastställa prioriteringarna.

          Driftsättningen av privata instanser av stora GenAI-språkmodeller (LLM), t.ex. Llama 2 eller Falcon, ger fördelar när det gäller hastighet och driftsättning, men det kan även leda till högre kostnader och andra nackdelar. I vilket fall kommer intern GenAI sannolikt att ge mest värde under det inledande stadiet.

        • Content Creation

          Innehållsskapande

        • Natural Language Search

          Sökning på naturligt språk

        • Code Generation

          Kodgenerering

        • Support Assistant

          Supportassistent

        • Design & Data Creation

          Utformning och dataskapande

        • Document Automation

          Dokumentautomatisering


      • Placera generativa AI-modeller nära dina data

        • När det gäller arbetsbelastningens placering skiljer sig GenAI inte från någon annan typ av arbetsbelastning. För att få bästa möjliga resultat ska du placera GenAI i den miljö som är mest passande baserat på verksamhetskraven och de tekniska behoven.

          Diagrammet nedan förmedlar koncept och ramverk som är relevanta vid fastställandet av GenAI-arbetsbelastningens placering.

      • Placering av generativ AI-arbetsbelastning i privata moln jämfört med offentliga moln.

        Placering av generativ AI-arbetsbelastning i privata moln jämfört med offentliga moln.
        • Datahantering för generativ AI

          De flesta organisationer har en tvådelad inställning till sin GenAI-strategi. De experimenterar med taktiska driftsättningar för att lära sig mer och undvika att hamna på efterkälken samtidigt som de utvecklar en långsiktig strategi för att tillgodose de många användningsfall som kommer att uppstå med tiden. Denna metod kräver att datahanteringsstrategin är uppdelad i två nivåer.

        DATAFÖRBEREDELSE
        DATAKONSTRUKTION
        • Dataförberedelse

        • GEN AI Data discovery

          Dataidentifiering

          Identifiera datauppsättningar och definiera datakrav

        • GEN AI Data exploration and enrichment

          Datautforskning och databerikning

          Utforma och implementera datapipelines för att märka, rensa och anonymisera data


        • Kortsiktigt: dataförberedelse

          Dataförberedelse inkluderar identifiering av datauppsättningar och definiering av datakrav, vilket följs av rensning, märkning och anonymisering av data samt efterföljande normalisering av dem i alla datakällor. För att kunna integrera data i modeller krävs det dessutom att man bygger datapipelines.

        • Datakonstruktion

        • GEN AI Data ingestion

          Datainmatning

          Integrera företagsdata i stora språkmodeller

        • GEN AI Observability and performance

          Överskådlighet och prestanda

          Kontrollera att omvandlade data uppfyller målen


        • Långsiktigt: datakonstruktion

          Organisationer behöver ett välstrukturerat datalager, t.ex. en datasjö eller ett datasjöhus, för att kunna integrera sina data med GenAI-modeller. Överväg att bygga datasjön iterativt för att gradvist utöka kapaciteten hos GenAI-datalagret medan teamet förbättrar sina datahanterings- och GenAI-färdigheter.


        • ”Detta samarbete [med Dell Technologies] kommer att göra det möjligt för företag att bygga egna AI-system och utnyttja den otroliga innovationen i communityn för öppen källkod samtidigt som de drar nytta av Dell-systemens säkerhet, efterlevnad och prestanda.”

          Jeff Boudier, Produkt- och tillväxtchef på Hugging Face
      • AI I RÄTT STORLEK

        Definiera infrastruktur och AI i rätt storlek

        Med dina unika data kan du använda domän- och företagsspecifika användningsfall och skapa branschvärde genom uppgifter eller funktioner för vilka du har exklusiv äganderätt till data. Olika typer av GenAI har olika startpunkter och nödvändiga investeringar för att kunna garantera framgång. LLM:er tränade på stora textmängder är som uppslagsböcker – användbara för allmän användning, men kanske inte lämpliga för att svara på specifika frågor om organisationens data.

      •  


         
      • Dina data förbättrar GenAI:s effektivitet och värde avsevärt

      • En jämförelse av modelltyper, inklusive företagsspecifika, domänspecifika och stora språkmodeller (LLM).

        En jämförelse av modelltyper, inklusive företagsspecifika, domänspecifika och stora språkmodeller (LLM).
      • Modeller för AI-driftsättning: Avvägning mellan kostnad och värde

        De tre första typerna av driftsättningsmodeller som visas nedan är vad de flesta organisationer för närvarande implementerar, vilket inleds med ”modellförstärkning” och därefter följs av "finjustering av modeller". Den AI-modell du väljer beror på organisationens beredskapsnivå för datavetenskap, driftsättningsmönster samt respektive modells inverkan.

      • Förhandstränad modell

        Förhandstränad modell

        Detta tillvägagångssätt kallas för ”prompt engineering” och innebär att en fråga ställs till en förhandstränad modell och att ett svar mottas.
        Exempel: ChatGPT

        Modellförstärkning

        Modellförstärkning

        Förstärk din GenAI-modell genom att lägga till dina data för att ge ytterligare kontext för svaren, t.ex. inferens, som inkluderar användningsfall som Retrieval-Augmented Generation (RAG).

        Finjustering av modeller

        Finjustering av modeller

        Detta omfattar justering av modellviktning och ett införlivande av dina data. Även om detta leder till bättre resultat, så kräver det även mer ansträngning under konfigurationen.

        Modellträning

        Modellträning

        Detta omfattar att bygga en specifik modell och träna den med en datauppsättning. Denna typ kräver vanligtvis mest arbete och resurser och är ofta reserverad för att lösa komplicerade problem.

        Ansträngning Liten ansträngning Medelstor ansträngning Stor ansträngning Betydande ansträngning
        Kostnad Låg kostnad Medelhög kostnad Hög kostnad Betydande kostnad
        Värde och
        differentiering
        Minimalt värde och minimal differentiering Medelhögt värde och medelhög differentiering Högt värde och hög differentiering Betydande värde och differentiering
        Dataintegrering Ingen dataintegrering Hög dataintegrering Hög dataintegrering Betydande dataintegrering
        Infrastruktur Klient – server Klient – server GPU-optimerad Distribution av stor GPU
        Kunskaper IT-Ops Utvecklare Dataforskare Dataforskare
      • Välj rätt infrastruktur för din modell

        Infrastrukturen som stöder din GenAI-driftsättning beror till stor del på beräkningskraven, vilka påverkas av modelltypen, modellstorleken och antalet användare. Ytterligare överväganden omfattar nödvändig lagringskapacitet för data som används under driftsättning, träning och förfining av modellen.

      • Så här påverkar modelltyp, modellstorlek och antal användare den generativa AI-infrastrukturen för din driftsättning.

        Så här påverkar modelltyp, modellstorlek och antal användare den generativa AI-infrastrukturen för din driftsättning.
      • Accelerera din AI-resa

        Börja med en omedelbar fördel

        Retrieval-Augmented Generation (RAG) är ett idealiskt inledande användningsfall för många organisationer som kopplar till ytterligare resurser, t.ex. dina egna data, i syfte att förstärka en modell utan att träna om den. Utforska konfigurationen av RAG-användningsfall som kan tillämpas för att förbättra ditt företag och förstärka dina data.

      • RAG Use Case

        Användningsfall för RAG

        Tillämpa RAG på en anpassad PDF-datauppsättning

      • Retrieval augmented generation

        DELL-VALIDERAD UTFORMNING FÖR RAG

        Installera en digital assistent på Dell APEX Cloud Platform for Red Hat OpenShift

    • Låt oss hjälpa dig att accelerera din resa

      Dell kan hjälpa dig att riva barriärer och möjliggöra företagsövergripande implementering av GenAI genom en heltäckande metod från skrivbordet till datacentret.

    • PowerEdge-servrar för AI

    • AI-lagring

    • Datahantering för AI

    • Dell Precision-arbetsstationer

    • Professionella tjänster för AI