W&B Models 완전 활용 가이드 2: Registry를 이용한 중앙 집중형 자산관리



자산의 중앙관리를 위한 Registry

Registry 를 통해 최적화된 자산관리를 할 수 있습니다.

조직내 자산의 중앙 관리
Artifact의 버전 관리, 다운로드, 공유 및 공동 관리
실험 결과 재현과 협업 효율성 극대화
모델 stage management
Alias를 이용한 staging, production, 등 다양한 단계로 운영
실험 -> 배포 전환시 명확한 운영 가이드 제공 가능
CI/CD 파이프라인 통합
모델이 특정 스테이지에 도달하면 자동으로 배포
Automation을 통한 다운스트림 프로세스 자동화로 실험에서 프로덕션까지 연결
자산 사용 이력 추적
조직 내 사용자 역할 구분을 통한 사용성 관리
민감한 자산에 대한 접근 통제 가



코드에서도 UI상에서도 Registry에 링크할 수 있습니다.

import wandb
import random

# 1. W&B run을 초기화합니다.
run = wandb.init(project="registry_quickstart")

# 기록할 수 있도록 시뮬레이션된 모델 파일을 만듭니다.
with open("my_model.txt", "w") as f:
   f.write("Model: " + str(random.random()))

# 2. artifact를 W&B에 기록합니다.
logged_artifact = run.log_artifact(
    artifact_or_path="./my_model.txt",
    name="gemma-finetuned",
    type="model" # artifact 유형을 지정합니다.
)

# 3. artifact를 registry에 연결합니다.
REGISTRY_NAME = "model"
COLLECTION_NAME = "first-collection"
run.link_artifact(
    artifact=logged_artifact,
    target_path=f"wandb-registry-{REGISTRY_NAME}/{COLLECTION_NAME}"
)





컬렉션의 'Readme'를 작성합니다.



요약: 컬렉션의 목적. 실험에 사용된 머신러닝 프레임워크.
라이선스: 인공지능 모델 사용과 관련된 법적 조건 및 권한. 일반적인 라이선스에는 Apache 2.0, MIT 및 GPL등이 있습니다.
참조: 관련 연구 논문, 데이터셋 또는 외부 리소스에 대한 인용 또는 참조.

학습 데이터: 사용된 학습 데이터에 대해 설명합니다.
전처리: 학습 데이터셋에서 수행된 전처리
데이터 저장소: 해당 데이터가 저장된 위치 및 엑세스 방법

아키텍쳐: 모델 아키텍쳐, 레이어 및 특정 설계 선택에 대한 정보
태스크: 모델이 해결하도록 설계된 태스크.
Deserialize the model: 팀의 누군가가 모델을 메모리에 로드할 수 있도록 정보를 제공합니다.
배포: 모델이 배포되는 방식 및 위치에 대한 세부 정보와 모델을 워크플로우 오케스트레이션 플랫폼 등 다른 시스템에 통합하는 방법에 대한 정보를 제공합니다.

사용자 정의 레지스트리는 자산 유형에 따른 관리의 유연성과 제어 기능을 제공합니다.

https://wandb.ai/registry/ 의 Registry 앱으로 이동합니다.
Custom registry 내에서 Create registry 버튼을 글릭합니다.
Name 필드에 registry 이름을 입력합니다.
필요에 따라 registry에 대한 설명을 제공합니다.
Registry visibility 항목에서 registry를 볼 수 있는 사용자를 선택합니다.
Accepted artifacts types 항목에서 All types 또는 Specify types를 선택합니다.
Specify types를 선택한 경우, 해당 registry에 링크할 수 있는 아티팩트의 타입을 하나 이상 추가합니다.
Create registry 버튼을 클릭합니다.



Registry 역할 설정을 통해 Viewer, Member, Admin 으로 권한을 관리할 수 있습니다.

Registry 오른쪽 상단 모서리에 있는 톱니바퀴 아이콘을 클릭합니다.
Registry members and roles 섹션으로 스크롤합니다.
Member 필드 내에서 권한을 편집할 user 또는 Team을 검색합니다.
Registry role 열에서 user의 역할을 클릭합니다.
드롭다운에서 user에게 할당할 역할을 선택합니다.

Viewer 는 읽기만 가능합니다.
Member 는 읽기, 생성하기, 업데이트하기, 삭제하기가 가능합니다.
Admin 은 읽기, 생성학, 업데이트하기, 삭제하기 이외의 유저관리와 관련된 권한이 추가됩니다.

MongoDB 스타일 쿼리로 registry 항목을 필터링할 수 있습니다.

import wandb

# (선택 사항) 가독성을 위해 wandb.Api() 클래스의 인스턴스를 생성합니다.
api = wandb.Api()


# 1. 문자열 `model`을 포함하는 모든 registries를 필터링합니다.
registry_filters = {
    "name": {"$regex": "model"}
}
# 필터와 일치하는 모든 registries의 iterable을 반환합니다.
registries = api.registries(filter=registry_filters)

# 2. collection 이름에 문자열 `yolo`를 포함하는 registry에 관계없이 모든 collections을 필터링합니다.
collection_filters = {
    "name": {"$regex": "yolo"}
}
# 필터와 일치하는 모든 collections의 iterable을 반환합니다.
collections = api.registries().collections(filter=collection_filters)

# 3. 문자열 `model`을 포함하고 태그 `image-classification` 또는 `latest` 에일리어스를 갖는 모든 artifact versions을 찾습니다.
registry_filters = {
    "name": {"$regex": "model"}
}
# 논리적 $or 연산자를 사용하여 artifact versions을 필터링합니다.
version_filters = {
    "$or": [
        {"tag": "image-classification"},
        {"alias": "production"}
    ]
}
# 필터와 일치하는 모든 artifact versions의 iterable을 반환합니다.
artifacts = api.registries(filter=registry_filters).collections().versions(filter=version_filters)

다운스트림 프로세스의 자동화를 위한 Automations

필요에 따라 엑세스 토큰, 비밀번호 등 민감한 정보를 Team Settings의 secrets에 정의합니다.
W&B가 Slack에 게시하거나 사용자를 대신하여 webhook을 실행할 수 있도록 알림을 구성합니다.
Registry 또는 프로젝트에서 automation을 생성합니다.

case1: 새로운 모델을 개발한 후 자동화된 평가를 실행합니다.

Registry에 모델을 관리할 Collection을 생성한 후, automation을 구성합니다.
예시의 automation은 'candidate' 이라는 alias를 붙이면 평가를 수행하는 webhook을 트리거합니다.


Sweeps를 이용하여 하이퍼파라미터 튜닝을 수행합니다.


최고 성능을 보인 모델을 해당 컬렉션에 링크 합니다.


이 때, Aliases에 candidate을 작성합니다.


컬렉션에 모델이 추가되었고 이제 automation으로 인해 github action이 수행됩니다.



case2: 새로운 평가데이터를 구성한 후 자동화된 평가를 실행합니다.

Registry에 평가 데이터를 관리할 Collection을 생성한 후, automation을 구성합니다.


새로 만든 데이터 아티팩트를 해당 컬렉션에 링크합니다.


컬렉션에 새 데이터가 추가되었고, 평가를 진행하는 github action이 트리거됩니다.



case3: 모델 성능 기준 달성 시 자동으로 배포할 수 있습니다. 동시에 Slack 으로 알람을 받도록 합니다!

Automation 기능은 프로 및 엔터프라이즈 플랜의 유저분들만 사용하실 수 있습니다!