Microsoft는 Semantic Kernel SDK를 도입하여 GPT-4와 같은 대규모 언어 모델(LLM)을 코드에 훨씬 쉽게 통합할 수 있도록 합니다. 이 SDK를 사용하면 프롬프트, 입력 및 집중 출력 관리의 복잡성이 단순화되어 언어 모델과 개발자 간의 격차가 해소됩니다.
AI 모델을 코드에 통합하는 프로세스는 서로 다른 두 가지 컴퓨팅 방식 사이의 경계를 넘나드는 작업과 관련되기 때문에 상당히 어려울 수 있습니다. 전통적인 프로그래밍 방법은 LLM과 상호 작용하기에 충분하지 않습니다. 필요한 것은 컨텍스트를 관리하고 소스 데이터에 근거한 출력을 유지하는 방법을 제공하는 서로 다른 도메인 간에 변환하는 상위 수준의 추상화입니다.
몇 주 전에 Microsoft는 Prompt Engine 이라는 첫 번째 LLM 래퍼를 출시했습니다. 이를 바탕으로 이 거대 소프트웨어는 이제 Azure OpenAI 및 OpenAI의 API 작업을 위한 보다 강력한 C# 도구인 Semantic Kernel 을 공개했습니다. 이 오픈 소스 도구는 여러 샘플 애플리케이션과 함께 GitHub에서 사용할 수 있습니다.
이름의 선택은 LLM의 주요 목적에 대한 이해를 의미합니다. Semantic Kernel은 초기 사용자 요청(질문)을 사용하여 모델이 연결된 리소스를 통과하도록 오케스트레이션하고 요청을 이행하고 응답(get)을 반환함으로써 자연어 입력 및 출력에 중점을 둡니다.
Semantic Kernel은 LLM API용 운영 체제와 같은 기능을 하며 입력을 받고 언어 모델을 사용하여 처리하고 출력을 반환합니다. 커널의 오케스트레이션 역할은 프롬프트 및 관련 토큰뿐만 아니라 메모리, 다른 정보 서비스에 대한 커넥터, 프롬프트와 기존 코드를 혼합하는 미리 정의된 기술을 관리하는 데 필수적입니다.
Semantic Kernel은 메모리 개념을 통해 컨텍스트를 관리하고 파일 및 키-값 스토리지를 사용합니다. 세 번째 옵션인 시맨틱 메모리는 LLM이 텍스트의 의미를 나타내는 데 사용하는 숫자 배열인 벡터 또는 임베딩으로 콘텐츠를 처리합니다. 이러한 임베디드 벡터는 기본 모델이 관련성과 일관성을 유지하고 무작위 출력을 생성할 가능성을 줄이는 데 도움이 됩니다.
임베딩을 사용하면 개발자는 큰 프롬프트를 텍스트 블록으로 분할하여 요청에 사용 가능한 토큰을 소진하지 않고 더 집중된 프롬프트를 생성할 수 있습니다(예: GPT-4는 입력당 8,192개의 토큰 제한이 있음).
커넥터는 시맨틱 커널에서 중요한 역할을 하여 기존 API를 LLM과 통합할 수 있습니다. 예를 들어 Microsoft Graph 커넥터는 전자 메일로 요청 출력을 보내거나 조직도에서 관계에 대한 설명을 작성할 수 있습니다. 커넥터는 또한 데이터를 기반으로 출력이 사용자에게 맞게 조정되도록 역할 기반 액세스 제어 형식을 제공합니다.
Semantic Kernel의 세 번째 주요 구성 요소는 Azure Functions와 유사한 LLM 프롬프트와 기존 코드를 혼합하는 기능 컨테이너인 기술 입니다. 특수 프롬프트를 함께 연결하고 LLM 기반 응용 프로그램을 만드는 데 사용할 수 있습니다.
한 함수의 출력을 다른 함수에 연결할 수 있으므로 네이티브 처리와 LLM 작업을 혼합하는 함수 파이프라인을 구성할 수 있습니다. 이러한 방식으로 개발자는 필요에 따라 선택하고 활용할 수 있는 유연한 기술을 구축할 수 있습니다.
Semantic Kernel은 강력한 도구이지만 효과적인 애플리케이션을 만들기 위해서는 신중한 생각과 계획이 필요합니다. SDK를 네이티브 코드와 함께 전략적으로 사용함으로써 개발자는 LLM의 잠재력을 활용하여 개발 프로세스를 보다 효율적이고 생산적으로 만들 수 있습니다. 시작하는 데 도움이 되도록 Microsoft는 자체 비즈니스 내에서 LLM 응용 프로그램 구축에서 배운 모범 사례 지침 목록을 제공합니다.
최신 소프트웨어 개발의 맥락에서 Microsoft의 Semantic Kernel SDK는 다양한 응용 프로그램에서 대규모 언어 모델을 통합하기 위한 핵심 요소로 자리매김하고 있습니다. 이를 구현하면 AppMaster 의 no-code 플랫폼 및 웹 사이트 빌더 와 같은 도구에 큰 도움이 되어 광범위한 사용자에게 보다 유연하고 효율적인 솔루션을 제공할 수 있습니다.
