메인 콘텐츠로 건너뛰기
이 페이지에는 API 또는 UI에서 Serverless Inference 서비스를 호출하기 전에 설정해야 하는 계정, 자격 증명, 도구가 나와 있습니다. 이후 요청이 인증에 성공하고 유효한 프로젝트로 라우팅되도록 다음 섹션의 모든 항목을 완료하세요.
시작하기 전에 비용과 제한 사항을 파악할 수 있도록 사용 정보 및 제한 사항을 검토하세요.

W&B 계정 및 프로젝트 설정하기

Serverless Inference를 사용하려면 다음 항목이 필요합니다:
  1. W&B 계정. W&B에서 가입하세요.
  2. W&B API 키. API 키를 만들려면 자세한 내용이 있는 개인 API 키 또는 서비스 계정 API 키 탭을 선택하세요.
    사용자 ID에 속한 개인 API 키를 만들려면 다음 단계를 따르세요.
    1. W&B에 로그인한 다음 사용자 프로필 아이콘 > User Settings를 클릭합니다.
    2. Create new API key를 클릭합니다.
    3. API 키를 식별할 수 있는 설명적인 이름을 입력합니다.
    4. Create를 클릭합니다.
    5. 표시된 API 키를 즉시 복사해 안전하게 저장합니다.
    W&B는 전체 API 키를 생성 시점에 한 번만 표시합니다. 대화 상자를 닫으면 전체 API 키를 다시 볼 수 없습니다. Settings에서는 키 ID(키의 첫 부분)만 확인할 수 있습니다. 전체 API 키를 분실한 경우 새 API 키를 만들어야 합니다.
    안전한 저장 옵션은 API 키를 안전하게 저장하기를 참조하세요.
  3. W&B 프로젝트. 사용 내역을 추적할 수 있도록 W&B 계정에서 프로젝트를 생성하세요.
이 세 가지를 모두 완료하면 Inference API에 인증할 수 있는 W&B ID와 사용 내역을 기록하는 프로젝트가 준비됩니다.

Python용 환경 설정

Python에서 Inference API를 호출할 계획이라면 일반 요구 사항 외에 다음도 설정해야 합니다.
  1. 앞선 섹션의 일반 요구 사항을 완료합니다.
  2. 필요한 라이브러리를 설치합니다.
    pip install openai weave
    
참고weave 라이브러리는 선택 사항이지만 권장됩니다. 이 라이브러리를 사용하면 LLM 애플리케이션을 트레이스할 수 있습니다. 자세한 내용은 Weave 퀵스타트를 참조하세요.

다음 단계

계정, API 키, 프로젝트, 그리고 선택 Python 환경이 준비되었으면 요청 전송을 시작할 수 있습니다. 다음 리소스 중 하나를 계속 진행하세요:
  • API 레퍼런스에서 사용 가능한 엔드포인트를 확인하세요.
  • 사용 예시를 사용해 보고 서비스가 실제로 어떻게 동작하는지 살펴보세요.
  • UI 가이드를 참고해 웹 인터페이스를 통해 모델에 액세스하세요.