• Generative AI

    Generative AI 시대가 도래했습니다.
    준비가 되셨습니까?

    이노베이션 by 인텔®

      • 시작

        새로운 Generative AI 시대

        조직과 개인 모두 GenAI(Generative AI)를 엄청난 규모로 활용하고 있어 사회적 파급력이 상당합니다. ChatGPT 및 DALL-E와 같은 소비자급 AI는 콘텐츠를 생성하는 탁월한 능력으로 많은 이들의 상상을 실현했습니다. 그리고 GenAI는 생산성 향상, 비용 절감, 업무 방식 혁신 등과 같은 방식으로 이보다도 조직에 더 큰 가치를 가져다줄 전망입니다.

      • 76%

        GenAI가 조직에 혁신을 가져오지는 않더라도 상당히 중요한 역할을 할 것이라 믿는 IT 리더의 비율.

        조직을 혁신할 GenAI

        GenAI는 여러 가지 보상을 가져다주지만 이를 활용하는 과정에서 새로운 당면 과제와 위험 요소 또한 대두됩니다. GenAI 여정을 시작하는 조직의 경우 단순히 '최초'라는 타이틀을 얻기 위해 고객의 신뢰와 자사 데이터의 높은 가치를 위험에 노출하지 않을 것입니다.

        76%

        GenAI가 조직에 혁신을 가져오지는 않더라도 상당히 중요한 역할을 할 것이라 믿는 IT 리더의 비율.

      • Generative AI에서 데이터가 차지하는 필수적인 역할

        데이터 활용에 있어 위험은 늘 고려해야 할 요소입니다. 데이터는 GenAI 프로젝트를 추진하는 기반이 되지만 데이터 활용 과정에서 지적 재산 손실, 데이터 유출, 개인 정보 보호 문제, 규정 위반, 신뢰성 및 무결성 손실, 편향성, IP 침해 등 퍼블릭 클라우드에서 GenAI 모델을 호스팅할 때 발생할 수 있는 잠재적 위험 또한 진단해야 합니다.

        • 위험 관리 및 가치 향상

          여정을 시작하는 단계에서 기술에 대한 투자만큼이나 교육에 대한 투자를 고려하여 운영 성숙도를 높이고, 위험을 줄이고, 제어 능력을 강화하고, 조직의 가치를 극대화하는 것이 필수적입니다. 엔터프라이즈 레디 GenAI를 활용하면 데이터에 대한 액세스 권한을 제어할 수 있습니다.

      • 미성숙한 Generative AI 및 엔터프라이즈 레디 Generative AI의 위험과 운영 성숙도

        미성숙한 Generative AI 및 엔터프라이즈 레디 Generative AI의 위험과 운영 성숙도

      • Generative AI 성공 거머쥐기

        많은 기업이 다양한 업종에 걸쳐 수백 가지의 활용 사례를 발굴해 냈지만 이 중에서도 적합한 활용 사례를 찾는 것이 매우 중요합니다.

      • People and teams

        인력 및 팀

        조직에서 GenAI 기회를 잘 활용할 수 있도록 준비하십시오. 이때 IT 조직은 내부적인 준비도에 집중하고 비즈니스 부서는 외부적인 준비도를 고려해야 합니다.

      • Processes and policies

        프로세스 및 정책

        조직에서 AI를 어떻게 활용할 것인지 정의하고 이를 조직 구성원과 소통하며, AI를 비즈니스의 중요한 측면으로 선정하여 직원들의 참여를 유도해야 합니다.

      • Technology

        기술

        조직 전체에서 GenAI에 안전하게 액세스할 수 있도록 지원하고 섀도우 AI 인스턴스를 방지하여 데이터 무결성 및 규정 준수를 보장해야 합니다.

      • Strategy

        전략

        비즈니스 환경에서 "있는 그대로"의 현재 상태를 파악하여 향후 GenAI 프로젝트를 위한 전략적 비전과 지침 원칙을 결정해야 합니다.

        • AI를 통한 데이터 활용

          적절한 데이터 활용

          가장 좋은 활용 사례에서는 AI 준비 상태를 기반으로 풍부한 자사 데이터를 활용합니다. 이러한 활용 사례를 지원하기 위해서는 기술 세트, 예산 및 리소스를 적절하게 조합해야 합니다. 비즈니스 팀과 IT 팀이 협업하여 우선순위를 정하는 것이 중요합니다.

          Llama 2 또는 Falcon과 같은 GenAI LLM(Large Language Model)의 전용 인스턴스를 배포하면 속도와 구축 면에서 이점이 있지만 비용 증가와 그 밖의 단점을 경험하게 될 수도 있습니다. 어느 방향을 선택하든 사내 GenAI는 초기 활동 시 가장 큰 가치를 제공할 가능성이 높습니다.

        • Content Creation

          콘텐츠 생성

        • Natural Language Search

          자연 언어 검색

        • Code Generation

          코드 생성

        • Support Assistant

          지원 도움

        • Design & Data Creation

          설계 및 데이터 생성

        • Document Automation

          문서 자동화

      • 데이터에 Generative AI 모델을 지속적으로 활용

        • 워크로드 배치 측면에서 GenAI는 다른 워크로드와 다르지 않습니다. 최상의 결과를 얻으려면 비즈니스 요구 사항과 기술 요구 사항에 따라 가장 적합한 환경에 GenAI를 투입할 수 있어야 합니다.

          아래 다이어그램에는 GenAI 워크로드 배치를 결정할 때 적용되는 개념과 프레임워크가 나와 있습니다.

      • 프라이빗 클라우드와 퍼블릭 클라우드의 Generative AI 워크로드 배치

        프라이빗 클라우드와 퍼블릭 클라우드의 Generative AI 워크로드 배치

        • Generative AI를 위한 데이터 관리

          대부분의 조직은 GenAI 전략에 두 가지 접근 방식을 취합니다. 이는 학습을 통해 경쟁에서 뒤처지지 않으려 노력하는 전술적 배포의 실험을 수행하는 동시에 시간이 지남에 따라 등장할 많은 활용 사례를 수용하기 위해 장기 전략을 개발하는 활동을 뜻합니다. 이 접근 방식에는 2계층 데이터 관리 전략이 필요합니다.

        데이터 준비
        데이터 엔지니어링

        • 데이터 준비

        • GEN AI Data discovery

          데이터 검색

          데이터 세트 식별 및 데이터 요구 사항 정의

        • GEN AI Data exploration and enrichment

          데이터 탐색 및 보강

          데이터 태그 지정, 정리, 레이블 지정 및 익명화에 필요한 데이터 파이프라인 설계 및 구현

        • 단기: 데이터 준비

          데이터 준비에는 데이터 세트를 식별하고 데이터 요구 사항을 정의한 다음 데이터를 정리, 레이블 지정 및 익명화하고 데이터 소스 전반에서 정규화하는 작업이 포함됩니다. 또한 데이터를 모델에 통합하기 위해 데이터 파이프라인을 구축해야 합니다.

        • 데이터 엔지니어링

        • GEN AI Data ingestion

          데이터 수집

          LLM(Large Language Model)에 엔터프라이즈 데이터 통합

        • GEN AI Observability and performance

          관측 가능성 및 성능

          전환된 데이터가 목표를 충족하는지 확인

        • 장기: 데이터 엔지니어링

          데이터를 GenAI 모델과 통합하기 위해 조직에는 데이터 레이크 또는 데이터 레이크하우스와 같은 잘 정형화된 데이터 저장소가 필요합니다. 팀이 데이터 관리 및 GenAI 기술을 향상하는 동안 데이터 레이크를 반복적으로 구축하여 GenAI 데이터 저장소의 기능을 점진적으로 확장하는 것을 고려하십시오.

        • "Dell Technologies와의 협업을 통해 기업은 오픈 소스 커뮤니티의 놀라운 혁신 기술을 활용하는 동시에 Dell 시스템의 보안, 규정 준수 및 성능의 이점을 누리는 자체 AI 시스템을 구축할 수 있습니다."

          Jeff Boudier, Hugging Face의 Head of Product and Growth

      • 적절한 규모의 AI

        인프라스트럭처 및 적절한 규모의 AI 정의

        가지고 있는 고유한 데이터를 사용하면 도메인 및 엔터프라이즈별 활용 사례를 적용하여 데이터의 독점적 소유권이 있는 작업 또는 기능을 통해 업계 가치를 창출할 수 있습니다. 다양한 유형의 GenAI에는 성공을 보장하는 데 필요한 저마다의 진입점과 투자 항목이 있습니다. 방대한 양의 텍스트로 훈련된 LLM은 백과 사전과 같은데, 일반적인 용도로는 유용하지만 조직 데이터와 관련된 특정 질문에 답하는 데는 적합하지 않을 수 있습니다.

      •  

         

      • 보유한 데이터는 GenAI의 효율성과 가치를 크게 향상시킴

      • 엔터프라이즈별, 도메인별 및 LLM(Large Language Model)을 포함한 여러 가지 모델 유형 비교

        엔터프라이즈별, 도메인별 및 LLM(Large Language Model)을 포함한 여러 가지 모델 유형 비교

      • AI 배포 모델: 비용 및 가치 균형 평가

        아래에 나와 있는 처음 세 가지 배포 모델 유형은 대부분의 조직이 현재 구현하고 있는 모델로, "모델 보강"부터 시작하여 궁극적으로 "모델 미세 조정"을 결정합니다. 선택하는 AI 모델은 조직의 데이터 사이언스 준비 수준, 배포 패턴 및 각각의 영향에 따라 달라집니다.

      • 사전 훈련된 모델

        사전 훈련된 모델

        '프롬프트 엔지니어링'이라고 하는 이 접근 방식에서는 사전 훈련된 모델에 질문을 하고 결과를 얻습니다.
        예: ChatGPT

        		 모델 보강

        모델 보강

        데이터를 추가하여 답변에 대한 추가 컨텍스트를 제공함으로써 GenAI 모델을 개선합니다. 예: 추론 - RAG(Retrieval-Augmented Generation)와 같은 활용 사례를 포함합니다.

        		 모델 미세 조정

        모델 미세 조정

        여기에는 모델 가중치를 조정하고 데이터를 통합하는 작업이 포함됩니다. 이는 모델의 성능 향상으로 이어지지만 설정 중에 더 많은 노력이 요구됩니다.

        		 모델 훈련

        모델 훈련

        여기에는 특정 모델을 구축하고 데이터 세트로 훈련하는 작업이 포함됩니다. 일반적으로 가장 많은 작업과 리소스가 필요하며 복잡한 문제를 해결하는 데 종종 활용됩니다.
        노력 적은 노력 보통 수준의 노력 많은 노력 상당한 노력
        비용 낮은 비용 보통 수준의 비용 높은 비용 상당한 비용
        가치 및
        차별화        		 최소한의 가치 및 차별화 보통 수준의 가치 및 차별화 높은 가치 및 차별화 상당한 가치 및 차별화
        데이터 통합 데이터 통합 없음 높은 데이터 통합 높은 데이터 통합 상당한 데이터 통합
        인프라스트럭처 클라이언트-서버 클라이언트-서버 GPU 최적화 대규모 GPU 구축
        역량 IT 운영 개발자 데이터 과학자 데이터 과학자

      • 모델에 적합한 인프라스트럭처 선택

        GenAI 배포를 지원하는 인프라스트럭처는 모델 유형, 모델 규모 및 사용자 수의 영향을 받는 컴퓨팅 요구 사항에 크게 좌우됩니다. 추가 고려 사항에는 배포, 훈련 및 모델 개선 과정에서 사용되는 데이터에 필요한 스토리지 용량이 포함됩니다.

      • 모델 유형, 모델 규모 및 사용자 수가 배포를 위한 Generative AI 인프라스트럭처에 미치는 영향

        모델 유형, 모델 규모 및 사용자 수가 배포를 위한 Generative AI 인프라스트럭처에 미치는 영향

      • AI 여정 가속

        성공적인 시작 단계 전개

        RAG(Retrieval-Augmented Generation)는 재훈련 없이 모델을 보강하기 위해 자체 데이터와 같은 추가 리소스를 활용하는 많은 조직에 이상적으로 적합한 초기 활용 사례입니다. 비즈니스 및 데이터를 향상시키기 위해 적용할 수 있는 RAG 활용 사례를 살펴보십시오.

    • 여정을 가속하는 데 도와드리겠습니다.

      Dell Technologies는 사무실에서 데이터 센터에 이르는 포괄적 접근 방식으로 장벽을 없애고 전사적 GenAI 채택을 지원합니다.

    • AI를 위한 PowerEdge 서버

    • AI를 위한 스토리지

    • AI를 위한 데이터 관리

    • Precision 워크스테이션

    • AI를 위한 전문 서비스