현재 노타는 넷츠프레소(NetsPresso)라는 AI 모델 최적화 플랫폼을 제공하고 있으며, 해당 서비스를 통해 사용자들은 원하는 하드웨어에 최적화된 AI 모델을 최소한의 노력으로 빠르게 획득할 수 있게 되었다. 이러한 편의성과 더불어, 노타의 우수한 연구자와 개발자분들의 밤낮없는 노력의 결실로서 넷츠프레소가 산출하는 모델의 품질은 그 어떤 타사의 제품보다도 우위를 점하고 있다. 이를 통해 사용자들은 AI에 대한 깊은 지식이 없어도, 고민하는 현실 세계의 문제를 빠르고 정확하게 처리해줄 수 있는 AI 모델을 넷츠프레소가 제공할 것으로 기대하게 되었다.
그런데도, 사용자들이 해결하고자 하는 문제의 가짓수는 무궁무진하며, 하나의 플랫폼이 이 모든 문제를 해결하는 솔루션을 제공하기는 상당히 어렵기 때문에 넷츠프레소 또한 현실적인 어려움에 직면할 수밖에 없다. 이러한 부분을 해소하기 위해서는 지원하는 AI task(classification, object detection 등)의 범위를 공격적으로 확장해야 하는 것을 물론이고, 사용자가 직면한 환경에 맞춘 모델링(modeling) 과정이 수반될 수도 있으며, 때로는 복잡한 문제를 해결하기 위해 복수의 AI 모델이 유기적으로 구성된 AI 시스템을 제공할 수도 있어야 한다.
Application 파트는 이러한 현실적인 한계를 극복하기 위해 구성되었고, 해당 파트의 구성원인 AI Application Engineer는 현재 넷츠프레소가 지원하지 않는 실제 사용자들의 문제를 해결하는 역할을 한다. 사용자들은 특정 서비스에 대해서 자신이 가진 문제를 해결해줄 것으로 기대하고 찾아오지만 그렇지 못할 때, 실망한 채 다시는 돌아오지 않을 가능성이 크다. AI Application Engineer는 단 한 명의 사용자라도 놓치지 않고 그들에게 만족할만한 결과를 제공함으로써 미래 넷츠프레소의 고객으로 이어질 수 있도록 도움을 주는 역할을 한다.
.
.
나는 현재 노타에서 어떤 일을 하고 있는가?
Application 파트의 리드로서 현재 넷츠프레소가 해결하지 못하는 도전 과제들을 세일즈 팀과의 협업을 통해 발굴하고, 이러한 과제들을 해결하기 위한 시스템이자 미래 넷츠프레소의 프로토타입(prototype) 중 하나인 AI Model Factory 개발을 총괄하고 있다. 더욱 구체적으로 주어진 사용자의 요청에 대해서 넷츠프레소에서 제공하는 기능과 팀원들의 전문성에 기초하여 우리가 다룰 수 있는 형태로 사용자 문제를 정의한다. 이러한 문제 정의에 기초하여 어떤 신규 AI task의 모델들을 도입할 것인지 혹은 AI 모델을 활용한 신규 응용 시스템을 구축할 것인지 등을 결정하게 된다.
더 나아가 넷츠프레소의 신속한 처리 능력에 버금가도록, 향후 유사 과제에서 빠른 솔루션 제공을 수행할 수 있는 자동화 및 효율화된 솔루션 생성 파이프라인 설계도 함께 고민한다. 이러한 고민의 결과물을 AI Model Factory에 반영하여 소수의 여러 사용자의 다양한 문제를 처리할 수 있는 다품종 소량 생산 방식의 AI 모델/시스템 생산 공장으로 거듭나게 하는 것이 나의 역할이다. 이렇게 개발된 AI Model Factory는 향후 넷츠프레소의 고객을 사전에 대응하는 개념이기 때문에 넷츠프레소의 개발 방향에 큰 인사이트를 제공할 것으로도 기대한다.
Application 파트의 구성원인 AI Application Engineer는 어떤 핵심적인 역할을 하는가?
AI Application Engineer의 핵심 역할은 현재 넷츠프레소가 해결하기 어려운 사용자의 문제를 정확하게 이해하고, 이를 해결할 수 있는 AI 모델/시스템을 생성하는 AI Model Factory 모듈을 개발하여 대응하는 역할을 수행한다. 이러한 역할을 수행하면서 단순히 수치상으로 임의의 평가 데이터 셋(dataset)에서 좋은 성능을 보이는 모델/시스템만 개발하는 것이 아니라, 사용자가 직면한 문제의 현장에서 발생할 수 있는 세부적인 이슈까지 꼼꼼하게 고민함으로써 현실적인 문제를 해결해줄 수 있어야 한다. 이러한 AI Application Engineer의 고민의 깊이는 사용자에게 제공되는 AI 모델/시스템의 품질과 직결되며, 이는 곧 해당 사용자가 넷츠프레소의 장기적인 고객이 되는지 아닌지를 결정하게 된다.
또한 AI Application Engineer는 새로운 AI task를 빠르게 이해하고 적용할 수 있는 능력이 필요하다. 이런 빠른 학습 및 적용 능력은 빠른 납기로 이어지기 때문에 또 하나의 고객 만족을 끌어낼 수 있는 요소가 될 수 있다. 종합하자면 현재 넷츠프레소로 해결하기 어려운 문제를 다루면서 customer-centric한 깊이 있는 고민을 통해 고객 만족을 실현하며 더 나아가 단 한 명의 고객도 놓치지 않고 미래의 넷츠프레소의 고객이 될 수 있도록 하는 핵심 역할을 한다.
AI Application Engineer는 구체적으로 어떤 업무를 하는가?
노타의 AI Application Engineer는 AI Model Factory 개발을 위해 크게 두 가지 주요 업무를 진행한다. 첫 번째로 실제 현장 데이터를 활용하여 고객의 문제를 해결해가면서, 이러한 문제 해결에 필요한 새로운 AI 모델과 시스템을 생산할 수 있는 파이프라인을 구축하는 것이다. 구축된 파이프라인을 통해 생성되는 AI 모델/시스템은 수치적인 성능만으로 입증되기보다는 현장에서 성공적으로 작동되어야 하므로, AI Application Engineer는 현장 중심의 모델링 요소들 또한 함께 고민한다. 구체적으로는 학습 데이터를 어떻게 증강하면 현장 상황에서 나타날 수 있는 변칙적인 상황을 다룰 수 있는지 등을 고민하며 이러한 증강 기법들도 파이프라인에 결합한다. 개발된 모델/시스템에 대해서는 넷츠프레소와 마찬가지로 최적화가 수행되며 실제 하드웨어에 탑재시켜 모의적으로 현장 환경을 실험해보고 발견된 문제를 해결하기도 한다.
두 번째로 고객에게 신속한 솔루션 제공을 위해서 AI 모델/시스템 구축의 효율성을 높이는 업무를 한다. 넷츠프레소의 핵심 중 하나는 모델 구축에 대한 신속성이다. 이러한 핵심 장점은 AI Application Engineer 또한 준수함으로써 고객 만족도를 높일 필요가 있다. 생산 신속성을 확보하기 위해서는 모델/시스템 개발에 있어 최대한 Engineer의 개입을 줄이고 자동화를 수행해야 한다. 이러한 목적 달성을 위해 AI Application Engineer는 고객의 문제를 해결하기 위한 솔루션 개발 과정에서 수동적으로 해야 했던 부분들을 자세히 분석하고, 비효율적인 부분들을 자동화하는 기법을 개발하게 된다. 이러한 자동화는 모델링 과정에서의 AutoML적인 측면(예시: HPO, hyper-parameter optimization)부터 시스템 템플릿 제작(예시: 모델들의 조합만 교체하여 여러 가지 목적을 달성할 수 있게 해주는 시스템 구축 툴)까지의 광범위한 범위를 포함한다.
상기 언급된 두 가지 포인트들은 성능 중심의 모델/시스템 개발에만 집중하는 기존 AI Engineer와 차별되는 노타의 AI Application Engineer만의 고유한 특징이라고 생각한다.
AI Application Engineer가 자주 마주하게 될 도전
AI Application Engineer는 다양한 문제와 마주치기 때문에 이를 해결하기 위해서는 다양한 AI 지식을 열린 마음으로 받아들이고, 사전 지식을 부지런히 습득할 필요가 있다. 그래서 AI Application 분야에서 도움이 될만한 책들을 아래 사진과 같이 선정해 보았다.
AI Application Engineer가 해결해야 할 AI 문제는 정해진 것이 없으므로 주류 AI 모델 외에도 그래프 신경망과 같은 최신 AI 개념들도 숙지하고 있다면 필요시 빠른 대응이 가능해진다. 또한 사용자의 하드웨어의 종류도 정해진 것이 아니기 때문에 다양한 하드웨어를 관통하는 이론적인 지식을 사전에 갖추고 있어야 한다. 그런데도 대부분 현실적으로는 자신이 연구했거나 교육과정에서만 접한 소수의 AI task에만 전문성을 지니고 있어서, 심리적으로 상대적으로 자신이 없는 다른 AI task에 대해서는 보수적으로 접근하거나 멀리하려고 하는 태도를 지닐 수밖에 없다. 이러한 마음의 싸움이 지속되어도 이를 이겨내고 한 두 번 새로운 것들을 도전하면 생각보다 쉽다고 느끼게 될 것이고 최근 딥러닝 업계에서 요구하는 만능형 인재가 될 수 있다고 믿고 있다.
