제각각이던 라벨 스타일, 하나의 기준으로 정리하기
Label 디자인 시스템 정리하기
생성형 AI로 기능을 만들기 위해 모델을 호출하는 것은 어렵지 않습니다. 하지만 실제 서비스에 적용하려면 사용할 모델과 데이터의 처리 범위를 정하고, 예상 비용과 필요한 처리 용량도 검토해야 합니다.
서비스 팀마다 이 과정을 따로 준비하면 비슷한 작업을 반복하게 됩니다. 모델 공급자별 연동 코드를 작성하고, 권한을 확인하고, 사용량을 집계해야 하죠. 운영을 시작한 뒤에는 호출이 왜 실패했는지, 요청이 몰릴 때 어떻게 처리할지도 고민해야 합니다.
토스 AI Platform 팀은 이 중 여러 서비스에 공통으로 필요한 일을 플랫폼이 맡도록 했습니다. 서비스 팀이 사용 목적과 필요한 모델을 정하면, 검토한 조건을 실제 호출에 적용하고 그 결과를 운영 중에도 확인할 수 있게 만드는 데 초점을 맞췄습니다.