Skip to main content

W&B Weave 뉴스레터: 정식 출시, 플레이그라운드, 가드레일, 리더보드 등 다양한 소식

지난 한 달 동안 Weave에 많은 개선을 적용했습니다. 알아두실 핵심 내용을 소개합니다. 이 문서는 AI 번역본입니다. 오역이 의심되면 댓글로 알려주세요.
Created on September 15|Last edited on September 15
기쁜 소식을 전해드립니다: W&B Weave가 이제 전반적으로 SaaS와 AWS 전용 클라우드에서 이용할 수 있습니다. 또한 12월 2일부터 제공되는 다수의 새로운 Weave 기능이 함께 공개되었습니다. 아래 영상에서 확인하세요에서 우리 CEO Lukas Biewald가 리더보드와 주석 템플릿을 포함한 최신 Weave 기능을 활용해 에이전트형 AI 애플리케이션을 만드는 방법을 보여드립니다.


본격적으로 새로운 기능을 살펴보기 전에, 이번 주 LLM 팁부터 시작해 보겠습니다.

이번 주 LLM 팁 ✅

o1-preview가 공개됐을 때 추론 모델을 충분히 살펴보지 못하셨다면, 지금이 다시 깊이 들여다볼 좋은 시점입니다. 최근 공개된 DeepSeek R1과 오픈 소스로 나온 QwQ는 test-time compute라는 새로운 종류의 스케일링 법칙이 존재함을 확인했습니다. 모델이 “생각”할 시간을 더 많이 가질수록 질문에 더 잘 답한다는 사실을 보여준 것이죠. 실질적으로는 32B 매개변수 모델이 MacBook Pro 같은 소비자용 하드웨어에서도 많은 추론·수학 과제에서 405B Llama를 능가할 수 있음을 의미합니다.

W&B Weave 소식 🚀

리더보드
이제 Weave에서 개발자가 평가를 묶어 그룹으로 구성할 수 있습니다 리더보드 조직 전체와 공유할 수 있습니다.

플레이그라운드
코드 없이 모델과 프롬프트를 평가할 수 있도록 Weave는 플레이그라운드 프롬프트를 빠르게 반복 실험하고 LLM의 응답이 어떻게 달라지는지 확인할 수 있도록.

가드레일(현재 프리뷰)
LLM의 비결정적 특성 때문에 AI가 부적절하게 동작하거나 민감한 데이터를 노출하는 경우가 있을 수 있습니다. Guardrails는 유해한 출력과 프롬프트 공격을 탐지하는 기본 제공 필터를 제공합니다. 문제가 감지되면 프리 훅과 포스트 훅이 작동해 보호 장치를 자동으로 실행합니다.
평가(현재 프리뷰)
온라인 평가를 사용하면 프로덕션에서 발생하는 실시간 트레이스를 점수화해 애플리케이션을 실시간으로 모니터링할 수 있습니다. 온라인 평가는 평가 과정을 애플리케이션의 핵심 처리와 분리할 수 있도록 해 줍니다.
가능합니다 가입하기 두 프리뷰에 대해 더 알아보기.

커뮤니티 🏡

W&B Weave의 전용 𝕏 계정이 개설되었습니다: @weave_wbWeave 제품 업데이트, LLM 팁과 요령, 프로덕션 GenAI 애플리케이션 베스트 프랙티스 등 다양한 소식을 꾸준히 전해 드리겠습니다. 팔로우해 주세요 팔로우.
또한 Weave GA 출시와 함께, 우리의 AI 에반젤리스트인 Alex Volkov이 신뢰성 있게 LLM 애플리케이션을 제품화하는 간단한 4단계 쿠크북을 공유했습니다. 𝕏. 헤드 ****여기 확인해 보세요.

인기 글 📑

AWS re:Invent 2024을 맞아 Weights & Biases를 Amazon Bedrock과 함께 사용하는 방법을 소개하는 글을 발행했습니다:
W&B Weave로 Amazon Bedrock에서 텍스트 요약용 LLM 비교하기
활용 방법 알아보기 Amazon Bedrock의 관리형 인프라와 Weave의 고급 평가 기능을 활용해 요약 작업용 LLM을 평가하고 비교하는 방법입니다.

이벤트 🗓️

  AI STAC 개발 - 12월 5일
우리의 AI 총괄 디렉터 Morgan McGuire가 실험 단계부터 프로덕션까지 모델을 학습하고 파인튜닝하며 관리하는 방법을 주제로 워크숍을 진행합니다.
NeurIPS 해피 아워- 12월 11일 오후 5시(밴쿠버)
NeurIPS 기간 동안 Lambda와 Gradient Ventures와 함께 해피 아워를 진행합니다. 함께해 주시면 정말 기쁘겠습니다.
AI 생성 UI — 실무에서 뽑아낸 모범 사례 - 12월 12일 오후 6시 30분(SF)
이번 행사는 본사에서 열리며, 적응형 AI 생성 UI를 만드는 모범 사례를 함께 살펴봅니다. 동적 인터페이스 설계, 엔지니어링 과제, 구현 전략에 대해 업계 전문가들의 인사이트를 다룰 예정입니다.
샌프란시스코 오피스에서 열리는 마스터 클래스 3부에 직접 참여해 주세요. GenAI 솔루션을 구축하고 배포하는 데 필요한 실무 역량을 탄탄히 갖출 수 있도록 도와드립니다.
W&B Weave 시작이 막막하신가요?

이 글은 AI로 번역되었습니다. 오역이 있다면 댓글로 알려주세요. 원문 보고서는 아래 링크에서 확인할 수 있습니다: 원문 보고서 보기