기사

조직에서 AI를 확장하는 방법

거버넌스와 표준화된 전달을 통해 AI 운영을 확장하여 주기 시간을 단축하고 비용을 통제하며 신뢰성을 향상시키세요.

AI 확장은 AI를 고립된 파일럿 단계를 넘어 조직 전반에 걸쳐 솔루션을 광범위하고 신뢰성 있게 배포하여 일관된 비즈니스 성과를 달성하는 과정입니다.

이는 파일럿에서 작동했던 모델을 비즈니스가 매일 의존하는 시스템으로 전환하는 것을 의미합니다. 파일럿과 달리, 이는 모델을 실험에서 본격적으로 전환하고 유지보수를 유지하는 기술, 모니터링 및 재교육을 위한 MLOps와 같은 표준 프로세스, 그리고 데이터 과학을 넘어선 기술을 가진 인재가 필요합니다.

스케일링 법칙은 데이터, 매개변수, 계산이 증가함에 따라 모델 성능이 어떻게 변하는지를 설명합니다. 일반적으로 더 높은 품질의 데이터를 기반으로 학습된 더 큰 모델은 성능을 향상시키지만, 수익 체감과 비용 증가를 보입니다.

AI의 확장은 도전적일 수 있지만, 그 장애물은 대부분 실질적인 것들입니다. 일반적인 문제로는 작동하는 운영 도구가 되지 못하는 모델, 새로운 작업 방식에 대한 저항, 모델이 복잡해질수록 증가하는 컴퓨팅 비용과 유지보수 노력, 그리고 데이터 보안 및 프라이버시에 대한 규제 요건 등이 있습니다.

검증된 방법은 모델을 두 가지 방향으로 확장하는 것입니다: 크기와 효율성. 목표 지표에서 중요한 이점을 얻을 때만 데이터나 매개변수를 추가하세요. 비용이나 지연이 제약이 될 때는 증류, 양자화, 배치, 캐싱을 사용하세요. 처리량과 가용성을 위한 수평 확장을 추가한 후, 자신의 평가와 비교해 효율적인 경계를 찾아보세요.

알고 있어

테라데이트의 블로그를 구독하여 주간 통찰력을 얻을 수 있습니다



Teradata는 제품, 데이터 분석 및 이벤트에 관한 마케팅 이메일을 발송할 수 있으며, 저는 언제든지 수신을 거부할 수 있습니다.

Your privacy is important. Your personal information will be collected, stored, and processed in accordance with the Teradata Global Privacy Statement.