타임테이블
12:30 – 12:35
W&B에서의 인사
Akira Shibata
Country Manager at Weights & Biases
12:35 – 12:55
생성 AI 모델의 프로덕션화 – 세계 최고의 AI 팀으로부터 얻은 교훈
Lukas Biewald
CEO and Cofounder at Weights & Biases
AI는 2030년까지 세계 경제에 15.7조 달러의 가치를 더할 것으로 예상되며, 생성 AI는 이 혁명의 최전선에서 각 부문에 걸쳐 변혁적인 변화를 일으키고 있습니다. 루카스 비왈드는 이번 강연에서 생성 AI 모델의 영향력과 잠재력을 분석하고, 세계 최고의 기계 학습 팀들이 AI를 프로덕션 환경에서 구현하며 얻은 실용적인 통찰을 공유할 예정입니다. 그는 특히 LLM 평가, 데이터셋 관리, 모델 실험 및 최적화에 초점을 맞춰 생성 AI 모델의 실제 응용 프로그램에 대한 구체적인 통찰을 제공할 것입니다. 이 세션은 AI의 잠재력을 책임감 있게 최대한 활용하고 AI를 프로덕션에 신속하게 도입하고자 하는 기계 학습 팀들에게 행동을 촉구하는 메시지입니다.
12:55 – 13:15
애니메이션과 게임에서의 생성 AI 응용
Jerry Chi
Head of Japan at Stability AI Japan
AI를 이용한 이미지 생성, 이미지 편집, 비디오 생성, 3D 객체 및 캐릭터 생성은 애니메이션과 게임의 제작과 경험에 큰 영향을 미칠 것입니다. 최근 논문, 응용 사례 및 기술적 도전에 대해 이야기할 것입니다. 생성 AI의 활용을 통해 전문 크리에이터와 일반 크리에이터 모두 더 효율적이고 창의적으로 매력적인 비주얼을 만들 수 있습니다.
13:15 – 13:35
Google Cloud에서 Gemma의 파인튜닝
Jetha Chan
Technical Solutions Consultant at Google Cloud
특정 사용 사례와 최종 사용자를 위한 파인튜닝은 Gemma와 같은 오픈 모델의 주요 강점 중 하나입니다. 짧은 데모를 통해 Google Cloud 생태계 내에서 다양한 솔루션을 사용하여 Gemma를 파인튜닝하고 배포하는 방법을 보여줄 것입니다.
13:35 – 13:45
휴식
13:45 – 13:55
W&B에서의 소개①
Keisuke Kamata
ML Engineer at Weights & Biases
13:55 – 14:15
wandb와 생성 AI 통합을 통한 신약 개발 연구 최적화: BioNeMo-wandb 협업
Natnael Hamda
AI-ML VT Lead at Astellas Pharma
“wandb의 기능을 활용하여 경쟁하는 변수 간의 절충점을 최적화하는 의사 결정 도구로서의 능력을 바탕으로, 신약 개발을 위한 생성 AI 솔루션과의 통합을 통해 그 기능을 강화했습니다. 특히 wandb를 BioNeMo와 결합하여 이 강력한 프레임워크를 신약 개발에서 생성 AI 플랫폼으로 활용했습니다. 이번 발표에서는 이 두 가지 강력한 도구의 통합이 de novo 신약 개발에서 생성과 다목적 최적화를 어떻게 촉진하는지를 설명합니다.
이 워크플로우는 반복적인 작업을 자동화하여 신약 개발 과정을 크게 가속화하며, 과학자들이 혁신적인 연구에 집중할 수 있도록 합니다. 또한, 이 워크플로우는 대형 언어 모델(LLM)을 통합하여 더욱 상호작용적이고 사용자 친화적인 플랫폼으로 발전시킬 수 있습니다.
이번 발표에서는 이 통합 접근법의 실제 적용과 그 이점을 강조하며, 신약 개발 연구를 어떻게 변혁하고 보다 효율적이고 효과적인 과학적 조사를 위한 길을 열어갈 수 있는지 설명할 것입니다.”
14:15 – 14:35
교통사고 사상자 제로를 향하여: 자율주행을 위한 ML 개발과 W&B를 활용한 대규모 프로젝트 관리 혁신
Suigen Koide
Tech Lead Manager, MLOp at Woven, by Toyota
본 강연에서는 교통사고 감소를 목표로 한 자율주행 기술에서 Weights & Biases(W&B)를 활용한 대규모 ML 프로젝트 관리 접근법을 소개합니다. 자주 업데이트되는 대량의 데이터를 사용한 ML 개발에서 성능 관리와 추적성 확보 등 개발 상황의 가시화의 중요성에 초점을 맞추며, ML 개발에서의 새로운 과제에 대한 대응 방법을 제시합니다.
14:35 – 14:55
LLM 추론 가속화 방법이 추론 결과에 미치는 영향 분석
Hiroshi Matsuda
Chief Research Scientist at Recruit Megagon Labs
LLM의 사용이 확산됨에 따라, 자체 구축한 모델을 고속으로 서빙하는 기술에 대한 수요가 증가하고 있습니다. NVIDIA GPU에서 LLM 추론을 가속화하기 위한 배치 추론 라이브러리로는 vLLM, DeepSpeed-FastGen, TensorRT-LLM 등이 있으며, 이를 모델 가중치 양자화 기법과 결합함으로써 GPU 메모리의 효율적 사용과 고속화가 가능합니다. 그러나 이러한 가속화 방법이 반드시 모델의 원래 출력을 정확하게 재현하는 것은 아닙니다. 본 강연에서는 일본어 LLM 평가에 자주 사용되는 llm-jp-eval을 사용하여 배치 추론 라이브러리와 양자화 설정이 추론 결과에 미치는 영향을 보고할 것입니다.
14:55 – 15:15
더 신뢰할 수 있는 의료 AI 개발을 향하여: 내시경 진단 지원 AI 개발에서 W&B 활용 사례 소개
Masahiro Hara
Specialist at Olympus
최근 의료 분야에서, 의사의 부담을 줄이고 의료 수준을 향상시키기 위해 AI 기능을 통한 진단 및 치료 지원에 대한 수요가 증가하고 있습니다.
한편, 의료 AI 개발에 있어 병원으로부터의 데이터 수집 및 의료 기기 승인을 위해 준수해야 할 법령과 지침들이 있어, 각 기업들은 이에 대한 대책을 마련해야 하는 상황에 놓여 있습니다.
이러한 대응이 복잡해짐에 따라 개발 효율성이 떨어지거나 기능 제한에 대한 우려가 의료 AI에서의 공통 과제가 되고 있으며, 개발 환경을 확충하고 개발 체계의 안정성을 유지하는 것이 의료진의 AI 기능에 대한 신뢰 향상으로 이어질 것으로 생각됩니다.
이번 세션에서는 특히 내시경 분야에서 당사가 직면하고 있는 개발 상의 문제를 소개하고, 그 해결을 위한 W&B 활용 사례를 소개합니다.
15:15 – 15:25
휴식
15:25 – 15:35
W&B에서의 소개②
Hyuwoo Oh
ML Engineer at Weights & Biases
15:35 – 15:55
B2B 혁신: 언어 확장을 통한 풀스택 LLM 및 RAG 파이프라인 활용
Stan Hwalsuk Lee
CTO at Upstage
이 섹션에서는 풀스택 대규모 언어 모델(LLM)이 실제 비즈니스 간 거래(B2B) 솔루션으로 어떻게 사용될 수 있는지 살펴보겠습니다. 사전 훈련, 확장, 파인튜닝을 포함한 최신 훈련 방법론을 깊이 있게 다루고 언어 능력 확장에 대해 논의할 것입니다. 또한 LLM을 광학 문자 인식(OCR) 및 특수 임베딩 기술과 결합하여 이미지 내의 텍스트를 포함한 다양한 유형의 데이터를 처리할 수 있도록 하는 방법도 설명할 것입니다. 실제 예를 통해 기업들이 이러한 고급 LLM 기능을 사용하여 복잡한 문제를 해결하고 운영을 개선할 수 있는 방법을 보여드리겠습니다. 마지막에는 풀스택 LLM과 그 훈련 및 통합 방법이 어떻게 진정한 B2B 솔루션을 제공하고, 귀사의 혁신과 성장을 이끌 수 있는지 명확하게 이해할 수 있을 것입니다.
15:55 – 16:15
FriendliAI와 Weights & Biases 통합: LLM 개발 및 배포의 효율화
Gon Chun
CEO at FriendliAI
FriendliAI와 Weights & Biases의 강력한 통합은 LLM의 프로덕션화를 보다 단순하고 비용 효율적으로 만들어, 파인 튜닝, 모니터링, 배포의 워크플로우를 간소화합니다. 이 강연에서는 이 통합의 주요 기능과 이점에 대해 깊이 탐구할 것입니다.
첫째, 이 통합은 ML 엔지니어가 W&B의 모델 저장소에서 Friendli Dedicated Endpoints로 사용자 정의 모델을 원활하게 업로드하여 빠르고 비용 효율적인 추론을 가능하게 합니다.
둘째, 파인 튜닝이 간단해집니다. 사용자는 Friendli Suite에서 직접 파인 튜닝 작업을 쉽게 시작하고 추적할 수 있으며, W&B의 실시간 시각화와 상세한 보고서의 혜택을 받을 수 있습니다.
FriendliAI의 강력한 파인 튜닝 및 배포 기능과 W&B의 고급 실험 추적 및 협업 기능을 결합하여, 이 통합은 LLM 개발 프로세스를 혁신적으로 변화시킵니다.
16:15 – 16:35
CyberAgent에서의 멀티모달 기반 모델 개발에 대하여
Aozora Inagaki
Machine Learning Engineer at CyberAgent
사이버에이전트 주식회사에서는 CyberAgentLM을 비롯한 다양한 생성 AI 연구 개발을 진행하고 있습니다. 본 강연에서는 LLM에서 멀티모달(Vision & Language) VLM에 이르기까지, 일본에 특화된 대규모 기반 모델 개발의 노력과 광고 크리에이티브 분야에서의 활용을 소개합니다. 또한 대규모 모델 개발에서 Weights & Biases (wandb)의 활용 방법도 함께 소개합니다.
16:35 – 16:45
휴식
16:45 – 16:55
W&B에서의 소개③
Yuya Yamamoto
ML Engineer at Weights & Biases
16:55 – 17:15
다음 세대의 메르카리 마켓플레이스를 이끄는 생성 AI
Teo Narboneta Zosa
Senior Machine Learning Engineer at Mercari
“AI는 메르카리의 제품 및 서비스의 핵심 요소로 자리 잡아 왔습니다. 메르카리가 e-커머스 마켓플레이스에서 다양한 제품 제공의 생태계로 성장하면서, AI는 각 사업 부문에 필수적인 역할을 해왔으며, 이는 “”모든 사람의 잠재력을 발휘시키는 것””이라는 메르카리의 사명을 지원하는 데 중요한 역할을 하고 있습니다.
오늘날 메르카리의 e-커머스 마켓플레이스는 그 가능성의 한계를 계속해서 밀어붙이고 있습니다. 이미 단순함, 사용 용이성, 광범위한 사용자 커뮤니티로 잘 알려진 메르카리는 내부 생성 AI 생산성 도구와 관련 기술이 지원하는 AI 기반 UX 및 기능을 통해 자사의 강점을 더욱 강화하고 있습니다. Weights & Biases는 메르카리의 시장의 모든 영역에서 잠재력을 발휘하기 위한 가장 과감한 기능들의 신속한 실험과 실행에서 중요한 역할을 하고 있습니다.”
17:15 – 17:35
NTT의 대규모 언어 모델 “tsuzumi”에 대한 노력
Kyosuke Nishida
Senior Distinguished Researcher at NTT
대규모 언어 모델(LLM)의 급속한 발전으로 실용화에 대한 기대가 크게 높아지고 있습니다. 본 강연에서는 NTT가 LLM의 실용화를 목표로, 소형 경량을 콘셉트로 처음부터 개발한 대규모 언어 모델 “tsuzumi”를 소개합니다. 또한 문서를 도표 등의 시각 정보까지 포함하여 이해하기 위한 LLM 확장 기술에 대한 우리의 성과를 공유하고, LLM 분야의 향후 전망에 대해 논의하겠습니다.
17:35 – 17:55
에이전트 AI의 발전
Llion Jones
Co-Founder and CTO at Sakana AI
에이전트 AI는 파운데이션 모델을 사용하여 단순한 챗봇 인터페이스를 넘어 호텔 예약이나 소프트웨어 엔지니어링과 같은 더 복잡한 작업을 자동화할 수 있는 AI입니다. 이러한 시스템은 아직 우리가 원하는 만큼 견고하지 않지만, 빠르게 발전하고 있습니다. 이번 강연에서는 이 분야의 발전 중 일부를 강조하고자 합니다. 특히 Sakana AI에서 직접 나온 연구가 포함됩니다. LLM 손실 함수 설계를 자동화한 LLM 2, ML 연구 스택 전체를 자동화한 최근 AI Scientist 릴리스, 그리고 이러한 에이전트의 생성 자체를 자동화할 수 있음을 보여준 최근 연구 등이 그 예입니다.
17:55 – 18:00
폐회 인사
Akira Shibata
Country Manager at Weights & Biases
스폰서
스폰서