본문 바로가기
AI 도구

🚀xAI API와 Grok 모델 활용 가이드: 베타 기간 월 25달러 혜택!

by James AI Explorer 2024. 11. 8.
    728x90

    안녕하세요! 오늘은 일론 머스크가 설립한 xAI의 AI 모델, Grok을 사용하기 위한 xAI API에 대해 알아보겠습니다. xAI API는 개발자가 Grok의 뛰어난 성능을 활용하여 다양한 애플리케이션을 구축할 수 있도록 설계되었습니다. 2024년 11월 4일부터 공개 베타 프로그램을 통해 개발자들은 xAI API를 사용하여 Grok 기반 애플리케이션을 개발할 수 있습니다. 베타 프로그램 기간 동안 모든 사용자는 매월 $25 상당의 무료 API 크레딧을 받게 됩니다. 이 블로그에서는 xAI API 주요 기능과 Grok-2 모델의 특징, xAI API 활용방법에 대해 알아보고, 직접 간단한 애플리케이션을 만들어 보겠습니다. 

    🚀xAI API와 Grok 모델 활용 가이드: 베타 기간 월 25달러 혜택!

    "이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."

    xAI API 개요

    xAI API의 핵심은 웹 URL을 통해 데이터를 주고받는 RESTful API와 이보다 더 빠르게 통신할 수 있는 gRPC API, 그리고, API를 쉽게 활용할 수 있도록 돕는 소프트웨어 도구 모임인 SDK를 통해 접근 가능하다는 점입니다. 이러한 다양한 접근 방식은 개발자에게 유연성을 제공하며, 선호하는 방식으로 API와 상호 작용할 수 있도록 지원합니다.

    https://x.ai/api

     

    API

    Public beta We're running a public beta program until the end of 2024. To kick things off, we make an early version of a next-gen model available under the name grok-beta. The model offers function calling, a 128k context length, and system prompt support.

    x.ai

    xAI API는 강력한 성능을 자랑하는 Grok 모델 시리즈를 제공하며, 베타 프로그램에서는 128k 토큰의 컨텍스트 길이와 함수 호출 및 시스템 프롬프트를 지원하는 새로운 Grok 모델 "grok-beta"를 미리 사용해 볼 수 있습니다. 또한, 텍스트 전용 모델 외에도 이미지를 처리할 수 있는 멀티모달 버전도 출시될 예정이라고 합니다. 

     

    Grok은 텍스트 생성 및 이해, 코드 생성, 함수 호출 등 다양한 작업에 사용할 수 있는 범용 모델입니다.

    • 텍스트 및 코드: 코드 생성, 데이터 추출, 요약 준비 등 텍스트 및 코드 관련 작업을 수행할 수 있습니다.
    • 함수 호출: Grok을 외부 도구 및 서비스에 연결하여 풍부한 상호 작용을 가능하게 합니다. 함수 호출을 통해 실시간 데이터 가져오기, API 호출, 코드 실행, 웹 페이지 탐색, 데이터베이스 분석 등 다양한 작업을 수행할 수 있습니다.
    • 사용 편의성: OpenAI 및 Anthropic과의 호환성을 통해 쉽게 마이그레이션 하고 통합할 수 있습니다.
    • 무료 크레딧 제공: 베타 프로그램 기간 동안 매월 $25 상당의 무료 API 크레딧을 사용하여 API를 테스트하고 Grok을 경험해 볼 수 있습니다.

    특히 xAI API는 OpenAI 및 Anthropic과의 호환성을 제공하여 기존 OpenAI 또는 Anthropic 기반 애플리케이션에서 xAI API로 쉽게 마이그레이션 할 수 있습니다. 예를 들어, OpenAI Python SDK를 사용하는 경우 아래 예시와 같이 Base_url을 https://api.x.ai/v1로 변경하고 console.x.ai에서 생성한 xAI API 키를 사용하기만 하면 Grok을 사용할 수 있습니다.

    import os
    from openai import OpenAI
    
    XAI_API_KEY = os.getenv("XAI_API_KEY")
    client = OpenAI(
        api_key=XAI_API_KEY,
        base_url="https://api.x.ai/v1",
    )
    
    completion = client.chat.completions.create(
        model="grok-beta",
        messages=[
            {"role": "system", "content": "You are Grok, a chatbot inspired by the Hitchhikers Guide to the Galaxy."},
            {"role": "user", "content": "What is the meaning of life, the universe, and everything?"},
        ],
    )
    
    print(completion.choices[0].message)
    728x90

    Grok-2 특징

    Grok-2는 xAI에서 개발한 최첨단 언어 모델로, 뛰어난 추론 능력을 자랑합니다. Grok-2는 이전 모델인 Grok-1.5에서 상당한 발전을 이루었으며, 채팅, 코딩, 추론 분야에서 최첨단 기능을 제공합니다. Grok-2의 핵심적인 특징은 다음과 같습니다.

    • 탁월한 성능: Grok-2는 LMSYS 챗봇 아레나에서 Claude 및 GPT-4를 능가하며, LMSYS 리더보드에서는 전체 Elo 점수 측면에서 Claude 3.5 Sonnet 및 GPT-4-Turbo를 모두 능가합니다. Grok-2는 검색된 콘텐츠를 사용한 추론 및 도구 사용 능력이 크게 향상되어, 누락된 정보를 정확하게 식별하고, 일련의 사건을 통해 추론하며, 관련 없는 게시물을 삭제하는 능력이 향상되었습니다.
    • 다양한 벤치마크에서의 경쟁력: Grok-2는 추론, 독해, 수학, 과학 및 코딩을 포함한 일련의 학술 벤치마크에서 평가되었으며, 대학원 수준의 과학 지식(GPQA), 일반 지식(MMLU, MMLU-Pro) 및 수학 경시대회 문제(MATH)와 같은 영역에서 다른 최첨단 모델과 경쟁력 있는 성능 수준을 달성합니다. 또한, Grok-2는 시각 기반 작업에서도 탁월하며, 시각적 수학 추론(MathVista) 및 문서 기반 질문 답변(DocVQA)에서 최첨단 성능을 제공합니다.
    • 실시간 정보 통합: Grok-2는 𝕏 플랫폼의 실시간 정보를 통합하는 텍스트 및 비전 이해 기능이 뛰어난 최첨단 AI 비서로, 𝕏 앱의 Grok 탭을 통해 액세스 할 수 있으며, 𝕏 Premium 및 Premium+ 사용자는 Grok-2 및 Grok-2 mini 모델을 사용할 수 있습니다. 

    Grok 모델 소개 블로그(https://x.ai/blog/grok)

    xAI API 활용 방법

    xAI API를 활용하려면 먼저 xAI 콘솔(console.x.ai)에서 계정을 생성해야 합니다. 계정 생성 후에는 API 키를 생성하고, 애플리케이션에서 API를 호출하여 Grok의 기능을 활용할 수 있습니다.

    xAI 콘솔 홈페이지

    API 키 생성:

    1. xAI 콘솔에 로그인합니다.
    2. API 키 페이지에서 API 키를 생성합니다.

    API Key 생성

    API 호출:

    xAI API는 REST API, gRPC API 또는 SDK를 통해 호출할 수 있습니다. 아래 명령은 간단한 예시로, XAI_API_KEY를 시스템 환경 변수로 내보낸 후, curl(Client URL) 명령을 사용하여 API를 호출하는 방법입니다. 

    export XAI_API_KEY=발급받은 API Key
    
    curl https://api.x.ai/v1/chat/completions \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $XAI_API_KEY" \
    -d '{
    "messages": [
    { "role": "system", "content": "You are Grok, a chatbot inspired by the Hitchhikers Guide to the Galaxy." },
    { "role": "user", "content": "What is the meaning of life, the universe, and everything?" }
    ],
    "model": "grok-beta",
    "stream": false,
    "temperature": 0
    }'

    curl 명령의 실행결과는 아래와 같습니다. 

    curl 명령의 실행결과

     

    xAPI로 스네이크 게임 만들기

    다음은 xAPI로 간단한 스네이크 게임을 만들어 볼 텐데요, 이 블로그의 작업환경은 Windows 11 Pro, WSL2파이썬 3.11비주얼 스튜디오 코드(이하 VSC) 1.94.0이며, "WSL 연결"을 통해 Linux환경에서 진행하였습니다. 

     

    1. VSC를 실행하고 확장프로그램에서 코딩 에이전트 Cline을 설치합니다. 

    VSC 확장 프로그램 Cline 설치

    2. Cline가 설치되면, 좌측 아이콘을 클릭하고 설정에서 API Provider는 OpenAI Compatible을 선택하고, Base URL에 https://api.x.ai/v1 설정 후, 발급받은 API Key를 입력하고, 모델 ID에 grok-beta를 입력합니다. 

    Cline Base URL 및 모델 설정

    3. 설정이 완료되면 아래와 같이 프롬프트를 입력해서 스네이크 게임 생성을 요청합니다. 

    스네이크 게임을 html, css, js를 이용해서 만들어줘. 점수를 표시해주고, 벽에 부딪히면 뱀이 죽게되고, 그상태에서 Q를 누르면 게임종료, R을 누르면 다시시작되도록 만들어줘

    4. 자동 코딩이 진행될 때 파일 저장이나 실행을 요청하면 승인해 줍니다. 

    Cline 자동 코딩 실행 화면

    5. 코딩완료 응답을 확인한 후, index.html 파일을 실행합니다.

    스네이크 게임 자동 코딩완료

    6. index.html 파일을 열어서 스네이크 게임이 실행되고, 게임 재시작 및 종료 기능이 정상 동작하는지 확인합니다. 원하는 기능의 수정과 실행을 반복할 수 있습니다. 

    xAI grok-beta가 생성한 스네이크 게임의 실행화면

    "이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."

    맺음말

    이번 블로그에서는 xAI API에 대해 알아보고, Grok 모델을 사용하여 간단한 애플리케이션을 만드는 방법을 살펴보았습니다. xAI API는 OpenAI 및 Anthropic과의 호환성을 제공하기 때문에 기존 시스템을 활용하여 빠르게 전환할 수 있으며, 베타 프로그램을 통해 매월 제공되는 무료 API 크레딧을 활용하면, 부담 없이 Grok의 다양한 기능을 테스트해 볼 수 있는 좋은 기회가 될 것입니다.

     

    오늘 블로그는 여기까지입니다. 이번 포스팅이 xAI API와 Grok을 활용한 애플리케이션 개발에 대한 인사이트를 얻는 데 도움이 되었기를 바라면서 저는 다음 포스팅에서는 더욱 유익한 주제로 찾아뵙겠습니다. 감사합니다!

     

    https://fornewchallenge.tistory.com/

     

     

    2024.11.02 - [AI 도구] - 🤖n8n: 깃허브 48k 스타의 노코드 AI 에이전트 자동화 도구 설치 및 활용 가이드

     

    🤖n8n: 깃허브 48k 스타의 노코드 AI 에이전트 자동화 도구 설치 및 활용 가이드

    안녕하세요! 오늘은 오픈소스 AI 에이전트 자동화 도구인 n8n을 소개드리려고 합니다. n8n은 GitHub에서 48k 이상의 별을 받은 인기 프로젝트로, Gmail, Google Sheets, Telegram, Notion 등 200개 이상의 다양한

    fornewchallenge.tistory.com

    728x90