ECMWF, W&B를 통해 일기예보 분야의 머신러닝 연구 가속화
"W&B는 우리가 다양한 접근 방식을 시도하고 어떤 아이디어와 어떤 변화가 개선으로 이어지는지 이해하는 데 도움이 되었습니다."
Matthew Chantry
Machine Learning Coordinator
ECMWF의 머신 러닝
날씨는 많은 진화하는 조각이 있는 복잡한 퍼즐입니다. 그저 지켜보는 것만으로도 꽤 까다로울 수 있습니다. 그리고 신뢰할 수 있는 예보를 하는 것에 관해서는, 글쎄요, 그것 역시 또 다른 짐승입니다.
가장 정확한 글로벌 기상 모델을 보유한 것으로 여겨지는 유럽 중기 기상 예보 센터(ECMWF)는 지난 몇 년 동안 기상 예보에서 머신 러닝을 탐구해 왔습니다. ECMWF가 신경망을 사용하여 관측치를 모니터링하는 최신 ML을 운영에 적용한 올해 초에 주요 이정표가 달성되었습니다.
ECMWF가 날씨 예측을 개선하기 위해 ML을 적용하는 연구를 계속함에 따라 지속적인 실험과 반복이 필요합니다. 여러 실험이 동시에 진행됨에 따라 다양한 실행의 결과를 효과적으로 추적, 비교 및 분석할 수 있는 도구를 사용하는 것이 필수적입니다. Weights & Biases는 강력한 실험 추적 기능과 풍부하고 대화형 시각화를 통해 선택 플랫폼으로 부상하여 팀이 데이터 기반 의사 결정과 모델 최적화를 용이하게 하는 데 도움이 되었습니다.
분산 ML 팀
ECMWF의 머신 러닝 코디네이터인 매튜 챈트리는 “우리가 여기서 하는 일이 복잡성 면에서 한 단계 더 높아진 것 이상이며 훨씬 더 많은 규모의 협력자가 필요하다는 것을 잘 알고 있습니다.”라고 말했습니다. “이것은 한두 사람이 함께 프로젝트를 진행하는 것이 아니라, 10명 이상이 코드 기반에서 협력하여 모델을 훈련하고 결과를 비교하며 다음에 무엇을 할지 결정하는 것입니다.
성장하는 ML 팀을 관리하는 것 외에도 ECMWF는 ML 엔지니어가 조직 전반에 분산되어 있다는 사실도 고려해야 합니다. 각 실무자는 다양한 분야의 전문성과 지식을 활용하기 위해 서로 다른 그룹에 포함됩니다. 그 외에도 팀은 여러 국가와 시간대에 걸쳐 분산되어 있습니다. 그러면 문제는 정렬을 용이하게 하고 모든 사람이 같은 페이지에 있고 응집력 있게 일하도록 하는 것입니다.
원활한 협업을 위해 설계된 Weights & Biases는 전체 팀의 ML 노력과 프로젝트 통찰력을 통합하는 허브 역할을 합니다. 최신 git 커밋, 하이퍼파라미터, 모델 가중치 및 메트릭 등 모든 것이 하나의 공유 작업 공간에 저장됩니다. 이를 통해 모든 사람의 작업에 대한 가시성을 제공하고 과거 실험을 반복하기 쉬워 더 나은 모델 성능, 더 높은 정확도 및 더 신뢰할 수 있는 결과를 얻을 수 있습니다. W&B를 단일 진실 소스로 활용하여 ECMWF의 ML 팀은 자신감을 가지고 공동으로 자율적으로 작업할 수 있습니다.
영어: AIFS(인도네시아)
ML 기반 기상 예보에서 급속한 진전을 이루고 있는 몇몇 주목할 만한 회사를 기반으로 ECMWF는 웹사이트에서 실시간 예보를 제공하는 완전히 ML에 기반한 최초의 예보 시스템을 출시했습니다 . ECMWF의 기존 통합 예보 시스템(IFS)의 보완으로 개발된 인공 지능/통합 예보 시스템(AIFS)은 조직의 ML 적용을 지구 시스템 모델링으로 확장하는 것을 목표로 합니다. 이 모델은 아직 알파 단계이지만 이미 약 1도(111km)의 해상도를 가지고 있으며 바람, 온도, 습도, 지위권 등에 대한 예측을 할 수 있습니다.
Chantry는 “W&B는 AIFS를 중심으로 작업을 지원하는 데 중요한 역할을 했습니다.”라고 말했습니다. “다양한 미디어 유형을 기록하고 다양한 예측에 대한 플롯을 만들 수 있습니다. 이를 통해 결과를 쉽게 비교하고 대조하여 잘못된 패턴이 없는지 확인하고 최상의 모델을 식별할 수 있습니다.”
모델의 공간적 일관성을 평가하기 위해 훈련 중에 W&B에 기록된 실제 지구 습도와 AIFS 예측의 예시 지도입니다.
AIFS 개발에는 반복적인 작업이 필요합니다. 즉, 많은 실험이 필요합니다. 팀은 모델 개발 노력을 추적하기 위해 W&B에 의존합니다. ECMWF는 W&B 대시보드를 사용하여 실험을 실시간으로 구성하고 시각화하여 데이터와 결과를 한곳에 편리하게 저장할 수 있습니다. 무엇이 효과가 있었고 무엇이 효과가 없었는지 기록하면 팀은 최상의 모델을 프로덕션에 투입하는 프로세스를 가속화할 수 있습니다.
Chantry는 “W&B는 다양한 접근 방식을 시도하고 어떤 아이디어와 어떤 변화가 개선으로 이어지는지 이해하는 데 도움이 되었습니다.”라고 말했습니다.
지구 시스템의 미래 예측
오늘날 ECMWF의 예측 시스템은 세계 최고 중 하나로 인정받고 있습니다. 머신 러닝을 업무에 도입하는 것은 우리에게 가장 큰 영향을 미치는 기상 현상에 대한 보다 숙련된 예측을 제공하기 위한 ECMWF의 여정에서 중요한 진전을 나타냅니다.
팀이 날씨 예보에서 ML의 잠재적 영역을 계속 탐색함에 따라, 빠른 반복과 실험을 지원하는 도구를 갖는 것이 중요합니다. W&B의 고유한 협업 기능, 사용자 정의 가능한 시각화 및 포괄적인 모델 교육 기록을 활용하여 ECMWF는 혁신의 속도를 상당히 가속화합니다.
Chantry는 “W&B는 우리가 더 많은 실험을 하도록 격려해 주었고, 우리는 아이디어에서 테스트까지 훨씬 더 빠르게 진행할 수 있었습니다.”라고 말했습니다.