• Generatywna sztuczna inteligencja

    Generatywna sztuczna inteligencja już tu jest
    Czy udało Ci się na nią przygotować?

    Intel®, Innowacyjność to nasze DNA‎

      • Od czego zacząć

        Nowa era generatywnej sztucznej inteligencji

        Generatywna sztuczna inteligencja (GenAI) jest wykorzystywana na skalę masową przez organizacje i osoby, co wywiera znaczny wpływ społeczny. Sztuczna inteligencja klasy konsumenckiej, taka jak ChatGPT i DALL-E, podbiła wyobraźnię wszystkich dzięki możliwości generowania treści. Jednakże wpływ generatywnej sztucznej inteligencji na organizacje zapewnia jeszcze większą wartość dodaną, w tym większą produktywność, redukcję kosztów i transformację sposobu pracy.

      • 76%

        liderów IT uważa, że generatywna sztuczna inteligencja odegra znaczącą, jeśli nie transformacyjną rolę w ich organizacji.

        Generatywna sztuczna inteligencja odmieni organizacje

        Generatywna sztuczna inteligencja zapewnia korzyści, lecz również stwarza nowe wyzwania i zagrożenia. Gdy organizacje rozpoczynają korzystanie z generatywnej sztucznej inteligencji, nie mogą ryzykować zaufania klientów i wysokiej wartości swoich danych, jeśli jedyną korzyścią będzie bycie pionierem w tej dziedzinie.

        76%

        liderów IT uważa, że generatywna sztuczna inteligencja odegra znaczącą, jeśli nie transformacyjną rolę w ich organizacji.

      • Dane odpowiednie do zastosowania

        Aby skutecznie wykorzystać możliwości generatywnej sztucznej inteligencji, organizacje muszą strategicznie wykorzystywać duże ilości danych wysokiej jakości. Najlepsze zastosowania wymagają tych danych i zrównoważonego połączenia umiejętności, budżetów i zasobów, co pokazuje, jak duże jest znaczenie współpracy między zespołami biznesowymi a IT w celu określania priorytetów.

        • Tworzenie zawartości

        • Wyszukiwanie w języku naturalnym

        • Generowanie kodu

        • Cyfrowi asystenci

        • Projektowanie i tworzenie danych

        • Automatyzacja dokumentów

      • Osiągnięcie sukcesu w zakresie generatywnej sztucznej inteligencji

        Przedsiębiorstwa zgłaszały problemy z setkami przypadków użycia w każdym pionie, więc wybór właściwych zastosowań ma kluczowe znaczenie.

      • Pracownicy i zespoły

        Odpowiednio przygotuj swoją organizację do rozwiązywania problemów związanych z GenAI, ponieważ organizacje IT koncentrują się na działaniach wewnętrznych, a działalność jest kierowana na zewnątrz.

      • Procesy i zasady

        Określ i przekazuj informacje na temat sposobu wykorzystania sztucznej inteligencji przez Twoją organizację i używaj jej jako kluczowego aspektu działalności w celu zwiększenia zaangażowania pracowników.

      • Technologia

        Zapewnij bezpieczny dostęp do GenAI w całej organizacji, unikając przypadków Shadow AI, aby zagwarantować integralność i zgodność danych.

      • Strategia

        Określ bieżący stan swojego środowiska, aby zdefiniować strategiczną wizję i zasady przewodnie dla przyszłych projektów GenAI.

      • Istotna rola danych w zakresie generatywnej sztucznej inteligencji

        Dane i ryzyko idą ze sobą w parze. Dane napędzają realizację projektów GenAI, ale należy także ocenić potencjalne ryzyko związane z hostingiem modeli GenAI w chmurach publicznych, w tym utratę własności intelektualnej, wyciek danych, problemy z prywatnością, naruszenia zasad zgodności, utratę wiarygodności i integralności, uprzedzenia i naruszenie własności intelektualnej.

        • Zarządzanie ryzykiem i zwiększanie wartości dodanej

          Na początku drogi niezwykle ważne jest, aby odpowiednio dostosować inwestycje w technologie i szkolenia w celu zwiększenia dojrzałości operacyjnej, zmniejszenia ryzyka, zwiększenia kontroli i maksymalizacji wartości dodanej dla organizacji. Dzięki GenAI dla przedsiębiorstw zyskujesz kontrolę nad tym, kto ma dostęp do Twoich danych.

      • Generatywna sztuczna inteligencja gotowa do stosowania w przedsiębiorstwie Niedojrzała generatywna sztuczna inteligencja Dojrzałość operacyjna Ryzyko
        Wykres pokazujący, że ryzyko (oś Y) zmniejsza się z upływem czasu w miarę osiągania dojrzałości operacyjnej (oś X) obsługi danych. Początek nachylenia wykresu oznacza niedojrzałą sztuczną inteligencję o wysokim ryzyku i niskiej dojrzałości operacyjnej. Spadek na wykresie wskazuje, że sztuczna inteligencja gotowa do zastosowania w przedsiębiorstwie zmniejsza ryzyko i zapewnia dojrzałość operacyjną.

      • WYKORZYSTAJ SZTUCZNĄ INTELIGENCJĘ DO SWOICH DANYCH

        Trzymaj modele generatywnej sztucznej inteligencji blisko swoich danych

        • Zrozumienie ryzyka i korzyści z różnych opcji wdrożenia generatywnej sztucznej inteligencji ma kluczowe znaczenie przy określaniu optymalnego rozmieszczenia obciążeń roboczych w organizacji. Wprowadzenie prywatnych instancji dużych modeli językowych GenAI (LLM), takich jak Llama 2 lub Falcon, zapewnia korzyści w zakresie szybkości i wdrażania, ale może to również wiązać się z wyższymi kosztami i innymi wadami. Tak czy inaczej, wbudowana GenAI będzie prawdopodobnie zapewniać największą wartość dodaną na początku wdrożenia.

          Jeśli chodzi o rozmieszczenie obciążeń roboczych, GenAI nie różni się od jakiegokolwiek innego obciążenia. Aby uzyskać najlepsze rezultaty, należy wprowadzić rozwiązanie w środowisku, które zostanie uznane za najbardziej odpowiednie w oparciu o wymagania biznesowe i potrzeby techniczne.

          Poniższy schemat przedstawia pojęcia i struktury, które wchodzą w grę przy określaniu rozmieszczenia obciążeń roboczych GenAI.

      • Miejsce przechowywania danych Koszt Krótszy czas do uzyskania wartości Dokładność i dostosowywanie Ogólne zastosowania Bezpieczny dostęp Chmura publiczna Chmura prywatna
        Wykres przedstawiający sześć czynników, które należy wziąć pod uwagę przy wyborze między chmurą prywatną a chmurą publiczną w celu obsługi obciążenia GenAI. Miejsce przechowywania danych i bezpieczeństwo dostępu wyraźnie sugerują wybór chmury prywatnej. Kwestia kosztu umiarkowanie wskazuje na chmurę prywatną, a dokładność i dostosowywanie w nieznacznym stopniu są argumentem za tym rodzajem chmury. Krótszy czas do uzyskania wartości w małym stopniu sugeruje chmurę prywatną, a kwestia ogólnych zastosowań w znacznym wymiarze wskazuje na chmurę publiczną.

        • Zarządzanie danymi na potrzeby generatywnej sztucznej inteligencji

          Większość organizacji stosuje dwutorowe podejście do strategii związanej z GenAI. Eksperymentują one z taktycznymi wdrożeniami, aby wyciągać wnioski i unikać pozostawania w tyle, a jednocześnie opracowują długoterminową strategię umożliwiającą dostosowanie się do wielu przypadków użycia, które pojawią się wraz z upływem czasu. Takie podejście wymaga dwuwarstwowej strategii zarządzania danymi.

        PRZYGOTOWANIE DANYCH
        INŻYNIERIA DANYCH

        • Przygotowanie danych

        • Wykrywanie danych

          Identyfikacja zestawów danych i zdefiniowanie wymagań dotyczących danych

        • Eksploracja i wzbogacenie danych

          Projektowanie i wdrażanie kanału przepływu danych na potrzeby oznaczania, czyszczenia, etykietowania i anonimizacji danych

        • Krótkoterminowe: przygotowanie danych

          Przygotowanie danych obejmuje identyfikację zestawów danych i zdefiniowanie wymagań w zakresie danych, a następnie czyszczenie, etykietowanie i anonimizowanie danych oraz ich normalizowanie między źródłami danych. Wymaga również tworzenia kanałów przepływu danych w celu integracji danych z modelem.

        • Inżynieria danych

        • Przyswajanie danych

          Integracja danych firmowych z dużymi modelami językowymi

        • Możliwość obserwacji i wydajność

          Sprawdzanie, czy zmodyfikowane dane pozwalają realizować poszczególne cele

        • Długoterminowe: inżynieria danych

          Organizacje potrzebują odpowiednio ustrukturyzowanego repozytorium danych, takiego jak jezioro danych lub magazyn danych, aby zintegrować swoje dane z modelami GenAI. Rozważ iteracyjne budowanie jeziora danych w celu stopniowego rozszerzania możliwości repozytorium danych GenAI, podczas gdy zespół będzie zwiększał swoje umiejętności w zakresie zarządzania danymi i GenAI.

        • „Ta współpraca [z Dell Technologies] umożliwi firmom budowanie własnych systemów sztucznej inteligencji z wykorzystaniem niesamowitych innowacje społeczności open source i jednoczesne czerpanie korzyści z zabezpieczeń, zgodności i wydajności systemów firmy Dell”.

          Jeff Boudier, Dyrektor ds. produktu i rozwoju, Hugging Face

      • SZTUCZNA INTELIGENCJA DOPASOWANA DO POTRZEB

        Zdefiniowanie infrastruktury i dopasowanie sztucznej inteligencji do potrzeb

      • 75%

        Rozwiązania firmy Dell oparte na sztucznej inteligencji do obsługi wnioskowania za pomocą dużych modeli językowych na miejscu mogą być nawet o 75% bardziej opłacalne niż chmura publiczna3.1

        Unikatowe dane umożliwiają korzystanie z zastosowań specyficznych dla domeny i przedsiębiorstwa, co tworzy wartość branżową dzięki zadaniom lub funkcjom, a użytkownik jest wyłącznym właścicielem danych. Różne rodzaje GenAI są powiązane z poszczególnymi punktami wejścia i inwestycjami, które są niezbędne do osiągnięcia sukcesu. Modele LLM przeszkolone w zakresie ogromnej ilości tekstu są jak encyklopedia, dzięki czemu przydają się do ogólnego użytku, ale mogą nie być odpowiednie do odpowiadania na konkretne pytania dotyczące danych organizacyjnych.

        75%

        Rozwiązania firmy Dell oparte na sztucznej inteligencji do obsługi wnioskowania za pomocą dużych modeli językowych na miejscu mogą być nawet o 75% bardziej opłacalne niż chmura publiczna3.1

      •  

         

      • Dane znacznie zwiększają wydajność i wartość rozwiązania GenAI

      • Ograniczony zakres funkcji Najmniejsza skala / największa opłacalność Wiedza ekspercka w danej dziedzinie Największa dokładność Mniejszy rozmiar Większa dokładność Więcej halucynacji Wysoki koszt i intensywne zużycie energii Szeroki zakres zastosowań Ogólnego zastosowania Specyficzna dla przedsiębiorstwa Specyficzna dla domeny Duże modele językowe Wartość
        Grafika przedstawiająca względne ilości danych wymaganych dla 3 typów modeli sztucznej inteligencji oraz ich wartość biznesową. Duże modele językowe (LLM) są przeznaczone do ogólnych zastosowań i wykorzystują najwięcej danych. Mogą być kosztowne i zużywać dużo energii, a ponadto są bardziej podatne na halucynacje. Sztuczna inteligencja specyficzna dla domeny wykorzystuje mniejsze ilości bardziej szczegółowych danych. Ma ograniczoną funkcjonalność, ale jest bardziej odpowiednia dla konkretnej firmy i zapewnia większą wartość. Sztuczna inteligencja specyficzna dla przedsiębiorstwa nadal wykorzystuje mniej danych, ale jest najbardziej dostosowana i najdokładniejsza, przynosząc firmie największą wartość.

      • Modele wdrażania sztucznej inteligencji: ocena kompromisów w zakresie kosztów i wartości

        Trzy pierwsze rodzaje modeli wdrażania przedstawione poniżej są obecnie wdrażane przez większość organizacji, począwszy od „rozszerzenia modelu”, aż po podjęcie decyzji o „dostrajaniu modeli”. Model sztucznej inteligencji, który wybierzesz, będzie zależał od poziomu gotowości organizacji do nauki o danych, wzorców wdrażania i konsekwencji wynikających z obranej ścieżki.

      • Wstępnie przeszkolony model

        Podejście to, nazywane „inżynierią promptów”, obejmuje zadawanie pytania wstępnie przeszkolonemu modelowi i uzyskiwanie wyniku.
        Przykład: ChatGPT

        Rozszerzenie modelu

        Ulepsz model GenAI, dodając dane, aby zapewnić dodatkowy kontekst odpowiedzi, np. wnioskowanie, który obejmuje przypadki użycia, takie jak pobieranie rozszerzonej generacji (RAG).

        Dostrajanie modeli

        Obejmuje wyważenie modelu i uwzględnienie danych. Choć prowadzi to do lepszych wyników, wymaga również większego wysiłku podczas konfiguracji.

        Szkolenie w zakresie modelu

        Obejmuje zbudowanie określonego modelu i szkolenie go z wykorzystaniem zestawu danych. Zazwyczaj wymaga to największej ilości pracy i zasobów. Często zarezerwowane do rozwiązywania złożonych problemów.
        Nakłady Niewielkie nakłady Średnie nakłady Duże nakłady Znaczne nakłady
        Koszt Niski koszt Średni koszt Wysoki koszt Znaczny koszt
        Wartość i
        zróżnicowanie        		 Minimalna wartość i zróżnicowanie Średnia wartość i zróżnicowanie Wysoka wartość i zróżnicowanie Znaczna wartość i zróżnicowanie
        Integracja danych Bez integracji danych Wysoki zakres integracji danych Wysoki zakres integracji danych Znaczny zakres integracji danych
        Infrastruktura Klient-serwer Klient-serwer Optymalizacja pod kątem procesorów GPU Wdrożenie z wieloma procesorami GPU
        Umiejętności Operacje działu IT Programista Badacze danych Badacze danych
        Uproszczone wdrożenie referencyjne Validated Design Projekt referencyjny Validated Design Projekt referencyjny

      • Wybierz odpowiednią infrastrukturę dla swojego modelu

        Infrastruktura wspierająca wdrożenie GenAI zależy w dużej mierze od wymagań obliczeniowych, na które wpływ wywiera typ modelu, rozmiar modelu i liczba użytkowników. Dodatkowe kwestie obejmują niezbędną pojemność pamięci masowej dla danych wykorzystywanych podczas wdrażania, szkolenia i udoskonalania modelu.

      • OBLICZENIA OGÓLNE (oparty na procesorze) OPTYMALIZACJA POD KĄTEM AI (intensywne użycie kart GPU) Notebooki Dell Stacje robocze Precision Serwery stelażowe PowerEdge Serwery PowerEdge XE Pamięć masowa ObjectScale Pamięć masowa PowerScale Pamięć masowa PowerFlex Przełączniki PowerSwitch z serii Z Szkolenie w zakresie modelu Dostrajanie modelu Rozszerzenie modelu Wstępnie przeszkolony model Miliony parametrów Miliardy parametrów Biliony parametrów Mała liczba użytkowników Duża liczba użytkowników
        Wykres przedstawiający trzy wymagania dotyczące GenAI i powiązanie ich z odpowiednimi rozwiązaniami sprzętowymi firmy Dell. Rozwiązania sprzętowe są przeznaczone zarówno do ogólnych zastosowań obliczeniowych (oparte na procesorach), jak do wdrożeń zoptymalizowanych pod kątem sztucznej inteligencji, które intensywnie obciążają karty GPU. Konkretne opcje obejmują notebooki Dell w przypadku ogólnych zastosowań, stacje robocze Precision i serwery PowerEdge, a także modele PowerEdge XE do rozwiązań zoptymalizowanych pod kątem sztucznej inteligencji. Urządzenia pamięci masowej i produkty sieciowe firmy Dell mogą być używane w ramach całej tej oferty. Trzy atrybuty infrastruktury GenAI są powiązane z tymi rozwiązaniami według zapotrzebowania na moc przetwarzania. Na złożoność modelu może mieć wpływ m.in. stosowanie wstępnie wytrenowanych modeli i modeli rozszerzonych lub precyzyjnych, a także trenowanie nowych modeli. Liczba parametrów może wynosić od milionów lub miliardów aż do bilionów.

      • Przyspiesz drogę do AI

        Zacznij od korzyści uzyskiwanych na wczesnym etapie

        Generowanie rozszerzonego pobierania (RAG) jest idealnym wczesnym przypadkiem użycia w wielu organizacjach, które wykorzystują dodatkowe zasoby, takie jak własne dane, aby poszerzyć model bez ponownego szkolenia. Zapoznaj się z konfiguracją przypadków użycia RAG, które można zastosować w celu polepszenia działalności i danych.

    • Uzyskaj pomoc, aby skrócić drogę do wdrożenia

      Firma Dell pomaga usunąć bariery i umożliwia wdrożenie GenAI w całym przedsiębiorstwie dzięki kompleksowemu i holistycznemu podejściu do całego procesu — od biurka do centrum przetwarzania danych.

    • Serwery PowerEdge do obsługi sztucznej inteligencji

    • Pamięć masowa na potrzeby sztucznej inteligencji

    • Zarządzanie danymi na potrzeby sztucznej inteligencji

    • Stacje robocze Precision

    • Notebooki z obsługą sztucznej inteligencji

    • Usługi profesjonalne w zakresie sztucznej inteligencji

    • 1  Na podstawie wyników badania przeprowadzonego przez Enterprise Strategy Group na zlecenie firmy Dell pt. „Maksymalizacja zwrotu z inwestycji w sztuczną inteligencję: inferencja lokalna przy użyciu rozwiązań Dell Technologies może być o 75% bardziej opłacalna niż chmura publiczna” (w języku angielskim) które obejmowało porównanie lokalnej infrastruktury Dell z natywną infrastrukturą chmury publicznej w postaci usługi oraz interfejsami API opartymi na tokenach. Kwiecień 2024 r. Oczekiwane koszty zostały oszacowane z uwzględnieniem technologii RAG w przypadku małych (5 tys. użytkowników), średnich (10 tys. użytkowników) i dużych (50 tys. użytkowników) środowisk oraz dwóch modeli LLM (7 B i 70B) w ciągu 3 lat. Faktyczne wyniki mogą być inne. Podsumowanie ekonomiczne