-
Generativ AI
Generativ AI är här:
Är du redo?Intel® Innovation inbyggd
-
-
-
Utgångspunkt
En ny era av generativ AI
Generativ AI (GenAI) utnyttjas i enorm skala av både organisationer och individer, vilket har en betydande inverkan på samhället överlag. AI i konsumentklass, till exempel ChatGPT och DALL-E, har skapat ett oerhört intresse tack vare sin förmåga att generera innehåll. Men det är GenAI:s inverkan på organisationer som är den verkliga värdeskaparen, vilket inkluderar ökad produktivitet, lägre kostnader och en omvandling av vårt arbetssätt.
-
76%
GenAI kommer att omvandla organisationer
GenAI medför inte bara fördelar utan även nya utmaningar och risker. I takt med att organisationer startar sina GenAI-resor måste de se till att de inte förlorar kundernas förtroende eller det höga värdet av sina egna data enbart för att vara först med att implementera nya lösningar.
76%
-
-
-
Den avgörande rollen för dina data i generativ AI
Data och risker går hand i hand. Data kommer att driva GenAI-projekten framåt, vilket betyder att du måste bedöma de potentiella riskerna med att vara värd för GenAI-modeller i offentliga moln, inklusive risken för förlust av immateriell egendom, dataläckage, sekretessproblem, efterlevnadsöverträdelser, förlust av trovärdighet och integritet, bristande objektivitet och IP-intrång.
-
-
Hantera risker och öka värdet
När du startar din resa är det viktigt att investeringarna i teknik och träning anpassas till målet för att öka den operativa mognaden, minska riskerna, förstärka kontrollen och maximera värdet för organisationen. Med startklar GenAI för företag kan du ta kontroll över vem som har åtkomst till dina data.
-
-
Risk kontra operativ mognad för omogen generativ AI och startklar generativ AI för företag.
-
-
-
Uppnå framgång med generativ AI
Företag har skapat hundratals användningsfall över alla vertikala modeller och därmed är det avgörande att man väljer rätt sorts användningsfall.
-
-
-
-
-
-
Ta AI till dina data
Utnyttja rätt sorts data
De bästa användningsfallen utnyttjar dina omfattande data och förlitar sig på din AI-beredskap, men samtidigt krävs det att du har rätt kombination av kompetenser, budgetar och resurser för att stödja dem. Det är viktigt att affärs- och IT-teamen samarbetar för att fastställa prioriteringarna.
Driftsättningen av privata instanser av stora GenAI-språkmodeller (LLM), t.ex. Llama 2 eller Falcon, ger fördelar när det gäller hastighet och driftsättning, men det kan även leda till högre kostnader och andra nackdelar. I vilket fall kommer intern GenAI sannolikt att ge mest värde under det inledande stadiet.
-
-
-
Innehållsskapande
-
Sökning på naturligt språk
-
Kodgenerering
-
Supportassistent
-
Utformning och dataskapande
-
Dokumentautomatisering
-
-
-
-
Placera generativa AI-modeller nära dina data
-
-
När det gäller arbetsbelastningens placering skiljer sig GenAI inte från någon annan typ av arbetsbelastning. För att få bästa möjliga resultat ska du placera GenAI i den miljö som är mest passande baserat på verksamhetskraven och de tekniska behoven.
Diagrammet nedan förmedlar koncept och ramverk som är relevanta vid fastställandet av GenAI-arbetsbelastningens placering.
-
-
-
Fem anledningar till varför du bör ta AI till dina data
-
-
Placering av generativ AI-arbetsbelastning i privata moln jämfört med offentliga moln.
-
-
Datahantering för generativ AI
De flesta organisationer har en tvådelad inställning till sin GenAI-strategi. De experimenterar med taktiska driftsättningar för att lära sig mer och undvika att hamna på efterkälken samtidigt som de utvecklar en långsiktig strategi för att tillgodose de många användningsfall som kommer att uppstå med tiden. Denna metod kräver att datahanteringsstrategin är uppdelad i två nivåer.
DATAFÖRBEREDELSEDATAKONSTRUKTION -
-
-
Dataförberedelse
-
Kortsiktigt: dataförberedelse
Dataförberedelse inkluderar identifiering av datauppsättningar och definiering av datakrav, vilket följs av rensning, märkning och anonymisering av data samt efterföljande normalisering av dem i alla datakällor. För att kunna integrera data i modeller krävs det dessutom att man bygger datapipelines.
-
-
-
Datakonstruktion
-
Långsiktigt: datakonstruktion
Organisationer behöver ett välstrukturerat datalager, t.ex. en datasjö eller ett datasjöhus, för att kunna integrera sina data med GenAI-modeller. Överväg att bygga datasjön iterativt för att gradvist utöka kapaciteten hos GenAI-datalagret medan teamet förbättrar sina datahanterings- och GenAI-färdigheter.
-
-
-
-
-
-
”Detta samarbete [med Dell Technologies] kommer att göra det möjligt för företag att bygga egna AI-system och utnyttja den otroliga innovationen i communityn för öppen källkod samtidigt som de drar nytta av Dell-systemens säkerhet, efterlevnad och prestanda.”
-
-
-
-
-
-
AI I RÄTT STORLEK
Definiera infrastruktur och AI i rätt storlek
Med dina unika data kan du använda domän- och företagsspecifika användningsfall och skapa branschvärde genom uppgifter eller funktioner för vilka du har exklusiv äganderätt till data. Olika typer av GenAI har olika startpunkter och nödvändiga investeringar för att kunna garantera framgång. LLM:er tränade på stora textmängder är som uppslagsböcker – användbara för allmän användning, men kanske inte lämpliga för att svara på specifika frågor om organisationens data.
-
-
-
Dina data förbättrar GenAI:s effektivitet och värde avsevärt
-
En jämförelse av modelltyper, inklusive företagsspecifika, domänspecifika och stora språkmodeller (LLM).
-
-
-
Modeller för AI-driftsättning: Avvägning mellan kostnad och värde
De tre första typerna av driftsättningsmodeller som visas nedan är vad de flesta organisationer för närvarande implementerar, vilket inleds med ”modellförstärkning” och därefter följs av "finjustering av modeller". Den AI-modell du väljer beror på organisationens beredskapsnivå för datavetenskap, driftsättningsmönster samt respektive modells inverkan.
-
Förhandstränad modell
Detta tillvägagångssätt kallas för ”prompt engineering” och innebär att en fråga ställs till en förhandstränad modell och att ett svar mottas.
Exempel: ChatGPTModellförstärkning
Förstärk din GenAI-modell genom att lägga till dina data för att ge ytterligare kontext för svaren, t.ex. inferens, som inkluderar användningsfall som Retrieval-Augmented Generation (RAG).
Finjustering av modeller
Detta omfattar justering av modellviktning och ett införlivande av dina data. Även om detta leder till bättre resultat, så kräver det även mer ansträngning under konfigurationen.
Modellträning
Detta omfattar att bygga en specifik modell och träna den med en datauppsättning. Denna typ kräver vanligtvis mest arbete och resurser och är ofta reserverad för att lösa komplicerade problem.
Ansträngning Kostnad Värde och
differentieringDataintegrering Infrastruktur Klient – server Klient – server GPU-optimerad Distribution av stor GPU Kunskaper IT-Ops Utvecklare Dataforskare Dataforskare
-
Välj rätt infrastruktur för din modell
Infrastrukturen som stöder din GenAI-driftsättning beror till stor del på beräkningskraven, vilka påverkas av modelltypen, modellstorleken och antalet användare. Ytterligare överväganden omfattar nödvändig lagringskapacitet för data som används under driftsättning, träning och förfining av modellen.
-
Så här påverkar modelltyp, modellstorlek och antal användare den generativa AI-infrastrukturen för din driftsättning.
-
-
-
-
-
Accelerera din AI-resa
Börja med en omedelbar fördel
Retrieval-Augmented Generation (RAG) är ett idealiskt inledande användningsfall för många organisationer som kopplar till ytterligare resurser, t.ex. dina egna data, i syfte att förstärka en modell utan att träna om den. Utforska konfigurationen av RAG-användningsfall som kan tillämpas för att förbättra ditt företag och förstärka dina data.
-
Användningsfall för RAG
Tillämpa RAG på en anpassad PDF-datauppsättning
-
DELL-VALIDERAD UTFORMNING FÖR RAG
Installera en digital assistent på Dell APEX Cloud Platform for Red Hat OpenShift
-
-
Låt oss hjälpa dig att accelerera din resa
Dell kan hjälpa dig att riva barriärer och möjliggöra företagsövergripande implementering av GenAI genom en heltäckande metod från skrivbordet till datacentret.
-