전용준 리비젼컨설팅 대표 / 경영학 박사

[아이티데일리] 

전용준 리비젼컨설팅 대표 / 경영학 박사
전용준 리비젼컨설팅 대표 / 경영학 박사

프롬프트 엔지니어링이란 무엇인가

인공지능 분야에서 프롬프트 엔지니어링(Prompt Engineering)은 프롬프트를 잘 운용하는 것을 말하며 프롬프트는 챗GPT와 같은 생성 AI의 출력을 지시하는 문구를 가리킨다.

필자가 최근 저서‘디지털 마케터의 ChatGPT 활용전략: 실전! 챗GPT 프롬프트 엔지니어링(김옥기 공저. 위키북스 2023.5)’에서 설명했던 내용을 풀어서 말해본다면 단순히 ‘명령을 잘 내리고, 적합한 단어와 구문을 사용하는 것’이 프롬프트 엔지니어링의 전부다. 더 좋은 결과를 얻으려면 그렇게 결과를 내라고 지시해야 하지만 ‘좋은 결과를 내라’는 식으로 간단히 말한다고 해결될 일이 아니다. 챗GPT가 알아듣지 못하기 때문이다. 그래서 알아들을 수 있도록 지시하는 ‘프롬프트 엔지니어링’이 필요하다.

프롬프트 엔지니어링은 AI를 기술적인 측면에서 자세히 아는 사람만 할 수 있다든가 엔지니어라는 제목이 달려있으니 프로그래머라고 한다든가 하는 식의 다양한 오해들이 있다. 프롬프트 엔지니어링에는 그와 오버랩 되는 다양한 작업들이 존재하기 때문이다. 최근에 연봉 수억 원이라는 기사들로 혼란을 야기하고 있는 주제이기도 한 프롬프트 엔지니어링을 하는 사람 즉‘프롬프트 엔지니어’ 역시 그 때문에 다양할 수 있다.

여러 종류 중 하나인 도메인 전문 프롬프트 엔지니어가 특히 기업들의 챗GPT 활용에서는 핵심적으로 필요하다. 아래 그림에서와 같이 AI 프롬프트 엔지니어링은 개발자 관점과 최종사용자 관점으로 구별된다. 도메인 전문가들은 특정 도메인(예: 마케팅, 법률, 금융)에 대한 전문 지식을 가지고 있으며 도메인별 프롬프트를 작성하는 것이 주요 업무다. 이들은 자신의 업계 지식과 AI 언어 모델에 대한 이해를 결합하여 해당 도메인에서 정확하고 관련성 있는 응답을 생성하는 프롬프트를 만든다.

AI 프롬프트 엔지니어링의 범위와 유형
AI 프롬프트 엔지니어링의 범위와 유형

다양한 종류의 일들이 프롬프트 엔지니어링에 서로 겹치기는 해도 들어 있을 수밖에 없고 또 이들의 조합이거나 새로운 방향으로 진화해 갈 수도 있을 것으로 보인다. 프롬프트 엔지니어링에 ‘엔지니어링(engineering)’이란 단어가 들어 있기에 프로그램을 짜는 사람이거나 공학 전공자라고 생각하는 식의 단편적인 이해는 수정되어야 한다.

언어모델 또는 챗봇을 작동하는 응용 모델 등의 시스템 수준에서 프롬프트를 설계, 수정하기 위한 프롬프트 엔지니어링도 필요하고 동시에 고정된 시스템을 사용하는 최종사용자(예: 전략기획자, 마케터, 품질관리자) 수준에서의 프롬프트를 다듬기 위한 프롬프트 엔지니어링도 필요한 것이다.

기업에서 마케터들은 마케팅을 더 잘 하기 위해 프롬프트를 다듬어야 한다. 품질관리자들은 품질을 높이기 위해서 그래야 한다. 그들이 트랜스포머의 유형과 버전을 암기하고 시그모이드와 정류 선형 유닛(ReLU)을 이해할 필요는 없을 수 있다. 수많은 전문 세부 영역별 전문가들이 프롬프트 엔지니어링을 이해하고 업무의 일부로, 일상적으로 수행해야하는 이유다.


기업의 챗GPT 활용 성과를 높이기 위한 프롬프트 엔지니어링

최근까지의 구글 검색추이를 보면 전 세계적으로는 챗GPT 관심이 계속 증가하는 양상이다. 하지만 우리나라에서는 4월을 정점으로 관심이 큰 폭으로 감소하고 있다. 신기함에 챗GPT를 찾아도 보고 연습 삼아 사용도 해봤지만 한계와 문제점들에 봉착하면서 점차 거품이 줄어드는 것으로 해석된다.

지나치게 과장하는 메시지들이 많았기에 반사적으로 감소도 매우 강하고 크다. 대표적인 문제점으로 지적된 것은 기업이 사용하는 경우 기밀유출 가능성이었고 한국 상황이나 데이터 이해 부족도 국내의 관심을 급감시킨 요인이다.

하지만 좀 더 근본적인 이유는 그저 챗봇으로는 여전히 신기하지만 그것을 기업의 본격적인 업무 활용 측면에서 대하려고 하면 체계적이고 전문적인 사용법을 알기 어렵다는 점이다. 그리고 이 대목이 바로 최종사용자의 프롬프트 엔지니어링이 해결해야하는 영역이다.

챗GPT와 프롬프트 엔지니어링 관심도 증가 추이 (자료: 구글트렌드. 2023.5.11 기준 최근 1년, 가공: 비즈트렌드인터프리터 biz.beys.io)
챗GPT와 프롬프트 엔지니어링 관심도 증가 추이 (자료: 구글트렌드. 2023.5.11 기준 최근 1년, 가공: 비즈트렌드인터프리터 biz.beys.io)

필자 역시 마케팅과 데이터 과학 분야 컨설턴트라는 최종사용자 입장에서 챗GPT를 사용해오면서 전문적이고 유용한 결과(Response 응답)를 얻기 위해서는 많은 노력과 체계적인 접근방식이 필요하다는 사실을 절실히 느낀다. 실제로 기업 입장에서 전략적 가치가 큰 결과물들을 챗GPT로부터 얻어내는 경험을 기업의 경영진 및 실무자들과 계속 확인하는 중이지만 어떤 프롬프트가 주어져야 더 가치가 큰 결과를 효율적으로 얻을 수 있는가에 대한 실용적 대책을 마련하는 것은 매우 큰 숙제로 풀어가는 중이다.


챗GPT 프롬프트 엔지니어링에 대한 오해와 진실

앞서 설명한 바와 같이 기업이 챗GPT 활용 가치를 극대화하려면 프롬프트 엔지니어링에 대한 관심과 노력은 필수다. 하지만 많은 사람들이 챗GPT 프롬프트 엔지니어링에서 최종사용자 관점과 개발자 관점을 구별하지 못하고 있고 또한 최종사용자 관점에 대해서도 많은 다양한 오해들을 가지고 있다. 아래 <표>는 대표적인 그리고 매우 중요한 오해와 진실을 정리한 것이다.

최종사용자의 챗GPT 프롬프트 엔지니어링에 대한 오해와 진실(출처: 챗GPT)
최종사용자의 챗GPT 프롬프트 엔지니어링에 대한 오해와 진실(출처: 챗GPT)

기업의 챗GPT 활용 성과 극대화를 위한 과제

기업이 챗봇의 활용가치를 최대한 끌어내려면 우선 사용법을 개발하고 훈련시켜야 한다. 일종의 특수부대를 기업 내에 창설하는 것이 필요하다는 것이다. 기밀유출 방지에 대한 이해와 훈련을 거친 도메인 특화된 프롬프트 엔지니어링에 능숙한 몇 십 명의 실무자들이 기업 내 전체 활용을 주도해갈 수 있을 것이다. 이 인력들은 꼭 데이터 사이언티스트일 필요는 없고 머신 러닝 이해도가 매우 높아야 하는 것도 아니다. 프롬프트 엔지니어링 그 자체에 대한 전문성을 핵심 업무 역량 중 하나로 장착한 사람이면 충분하다.

또 한 가지 중요한 과제는 어떤 용도로 어떤 업무에 챗봇을 사용할 것인지를 체계적으로 계획 및 관리해야 한다는 것이다. 전략적 사안부터 일상적 업무까지 챗GPT로부터 도움을 받을 수 있는 일들은 무수히 많다. 인사, 재무, 마케팅, 생산 어느 분야에도 이 챗봇을 활용할 일이 있을 것이다. 그 모두들 중에서 전략적 우선순위와 기대효과가 높은 업무를 선별하는 혜안이 요구된다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지