"프롬프트 기반 개발: 머신러닝 개발 주기를 빠르게 만드는 방법"
최근 프롬프트 기반 개발(Prompt-based development)¹이 기계 학습의 개발 주기를 훨씬 더 빠르게 만들고 있습니다. 몇 달 동안의 프로젝트가 이제는 단 며칠 동안으로 줄어든 것이죠. 이런 빠른 발전으로 개발자들은 테스트 세트를 제거하는 추세입니다.
프롬프트 기반 개발의 속도는 또한 프로젝트의 범위를 정하는 과정도 변화시키고 있습니다. 세심한 계획 대신에, 각 시도의 비용이 적기 때문에 많은 프로젝트들을 시도해보고 어떤 것이 붙는지 보는 것이 기능해졌습니다.
구체적으로 말하자면, 시스템을 구축하는 데 6개월이 걸린다면, 제품 관리자나 비즈니스 팀이 과정을 세심하게 계획하고 투자가 가치 있는 것으로 보일 때만 진행하는 것이 타당합니다. 그러나, 만약 무언가를 구축하는 데 단 하루만 걸린다면, 그것을 만들어보고 성공하는지, 실패한다면 버리는 것이 더 합리적입니다. 아이디어를 시도하는 데 드는 비용이 적기 때문에, 팀들은 더 많은 아이디어를 동시에 시도해볼 수 있습니다.
고객 서비스 이메일을 처리하는 자연어 처리 시스템을 구축하는 담당자라고 가정해봅시다. 그리고 팀원 중 한 명이 시간에 따른 고객의 감정을 추적하려고 합니다. 대형 사전 훈련 텍스트 변환기의 시대 이전에는, 이 프로젝트는 수천 개의 예시를 라벨링하고, 몇 주 동안 모델을 훈련시키고 반복하고, 그 다음 예측을 내리기 위해 사용자 정의 추론 서버를 설정하는 작업이 필요합니다. 노력이 들어가는 만큼, 당신은 제품 관리자가 며칠 동안 감정 표시 대시보드를 설계하고 사용자가 그것을 유용하게 찾는지 확인해, 투자에 대한 확신을 주기를 기대할 것입니다.
그러나 이 프로젝트의 프로토타입을 대형 언어 모델에 프롬프트를 사용하여 하루 만에 만들 수 있다면, 몇 주 동안 프로젝트를 계획하는 것보다 그냥 만드는 것이 더 합리적입니다. 그런 다음, 기술적 실행 가능성(시스템이 정확한 라벨을 생성하는지 보는 것)과 비즈니스 실행 가능성(출력이 사용자에게 유용한지 보는 것)을 빠르게 테스트할 수 있습니다. 만약 기술적으로 너무 어렵거나 사용자에게 도움이 되지 않는다면, 그 피드백은 당신이 프로젝트를 개선하거나 폐기하는 데 도움이 될 수 있습니다.
이 작업 흐름이 흥미롭다고 느끼는 이유는, 개별 프로젝트의 반복 속도를 높일 뿐만 아니라, 시도할 수 있는 아이디어의 양을 크게 늘리기 때문입니다. 고객 이메일의 감정을 그래프로 그리는 것 외에도, 왜 자동으로 이메일을 적절한 부서로 전달하거나, 각 이메일의 간략한 요약을 관리자에게 제공하거나, 이메일을 군집화하여 트렌드를 파악하는 등의 창의적인 아이디어로 실험해볼 수도 있겠죠. 하나의 머신러닝 피처를 계획하고 실행하는 대신에, 가능성이 있는 많은 것들을 빠르게 만들고, 그것들이 좋은 아이디어인지 빠르게 확인하고, 그렇다면 사용자에게 제공하고, 다음 단계의 의사 결정을 이끌어내는 빠른 피드백을 얻을 수 있습니다.
1)"프롬프트 기반 개발"은 프롬프트에 기반한 인공지능(AI) 모델, 특히 머신러닝 모델을 개발하는 방법을 의미합니다. 이 컨텍스트에서 프롬프트는 일반적으로 모델에 특정 출력을 생성하도록 하는 쿼리나 지시를 의미합니다.
이 개념은 GPT-3와 GPT-4와 같은 대형 언어 모델이 떠오르면서 특히 중요해졌습니다. 이러한 모델들은 프롬프트에 따라 인간과 같은 텍스트를 생성하도록 학습되었습니다. 예를 들어, 만약 GPT-3에 "다음의 영어 텍스트를 프랑스어로 번역하십시오: 'Hello, how are you?'"라는 프롬프트를 주면 이를 이해하고, "Bonjour, comment ça va?"라는 프랑스어 번역을 생성합니다.
따라서 프롬프트 기반 개발은 이러한 프롬프트를 설계하고 개선하여 모델로부터 원하는 출력을 얻는 것을 포함합니다. 이는 기존의 지식과 능력을 활용하여 AI 애플리케이션을 개발하는 더 빠르고 효율적인 방법일 수 있습니다. 그러나 이는 또한 사용할 적절한 프롬프트를 파악하고 모델이 생성하는 응답에 잠재적인 편향을 관리하는 등의 문제를 일으킬 수 있습니다.
머신러닝에 대한 내용이 흥미롭다면? 천재IT교육센터 AI·빅데이터 서비스 개발자 과정을 추천드립니다. 현재 모집 중! (~8/31) 여기 클릭