요즘 누구나 알고 누구나 사용하고 있는 챗 gpt, 챗 gpt에서 내가 원하는 정보를 얻기 위해서는 “챗 gpt 프롬프트”를 작성하는 것이 아주 중요합니다.
그렇다면 프롬프트란 무엇이고 왜 중요한지, 프롬프트의 개념과 중요성에 대해 알아보도록 하겠습니다.
챗 gpt를 직접 사용해보면서 하나하나씩 연습해보시면 좋습니다.
프롬프트의 개념
프롬프트는 예전 유럽의 연극 무대에서 배우들이 연기를 할 때, 관객이 보이지 않는 장소에 사람이 숨어서 배우에게 대사나 행동을 지시하는 것에서 유래되었습니다.
현재에는 방송국에서 뉴스를 할 때 아나운서들을 위해 모니터에 대본을 띄워주는 행위를 ‘프롬프트를 띄우다’라고 하죠.
이러한 의미에 따라 사용자가 원하는 결과물을 생성할 수 있도록 챗 gpt라는 인공지능에게 명령을 내리는 글을 “프롬프트”라고 하고, 효과적인 프롬프트를 작성하는 일을 “프롬프트 엔지니어링”이라고 합니다.
프롬프트의 중요성
그렇다면 프롬프트는 왜 중요할까요? 이 이유는 챗 gpt 모델이 어떻게 작동하는지에 대해 알면 이해할 수 있습니다.
인공지능은 보유하고 있는 데이터와 그 데이터를 토대로 추론하는 과정이 정해져 있습니다.
우리가 어떠한 질문(input)을 하게 되면 인공지능은 추론 과정을 거쳐 우리에게 답변(output)을 하게 됩니다.
여기서 인공지능의 추론과정은 이미 정해져 있기 때문에 답변(output)에 대하여 우리가 제어할 수 있는 부분은 우리가 직접 입력하는 질문(input) 밖에 없습니다.
따라서 입력 값에 따라 결과물이 천차만별로 달라질 수 있어 이 입력 값(질문), 즉 프롬프트가 아주 중요하다는 것입니다.
이 중요한 프롬프트를 작성하고 가장 최상의 조합을 찾아내는 일이 프롬프트 엔지니어링이고, 프롬프트 엔지니어링은 형식상의 일관성을 높이는 작업을 하게 됩니다. 쉽게 말하자면 몇 가지의 단어만 바꾸면 같은 형식으로 다른 답변이 나오게 하는 작업을 한다는 뜻입니다.
챗 gpt의 이해
확률 모델인 챗 gpt
챗 gpt는 거대 언어 모델로, 사람의 말을 흉내내고 예측하는 대규모 시뮬레이션 장치라고 할 수 있습니다.
예를 들어 보겠습니다. “동해물과 백두산이 OOO” 이라는 문장에서 “OOO”에는 어떤 말이 들어갈까요?
챗 gpt는 학습된 데이터를 가지고 예측을 하게 되는데 아주 높은 확률로 “마르고 닳도록”을 추출하겠지만 100% 같은 답을 내놓지는 않습니다. 적은 확률로 “파랗다”, “훌륭하다” 등 다른 말로 문장을 완성할 것입니다.
토큰 단위로 언어를 이해하는 챗 gpt
챗 gpt는 사람과는 다르게 다른 방법으로 우리가 질문한 글을 이해합니다.
예를 들면, “I am happy”라는 문장이 있습니다. 사람은 그냥 한 문장으로 이해하지만 챗 gpt는 “I / am / happy” 이렇게 3토큰으로 분절하여 이해합니다.
하지만 이 토큰을 분절하는 기준은 사람의 직관과는 다릅니다. 많이 쓰지 않는 단어나 고유명사의 경우 한 단어임에도 불구하고 한 단어를 여러 토큰으로 나누어 이해하기도 합니다.
이렇게 하나의 세션에 챗 gpt에게 질문하고 답변받고 하는 대화를 지속하는 동안 토큰이 계속 누적됩니다. 토큰이 누적됨으로써 챗 gpt는 앞서 했던 우리와의 대화를 학습하게 되고 그 다음 질문과 답변에 영향을 주게 됩니다.
하지만 하나의 세션의 토큰 누적량은 한계가 있습니다. 즉 챗 gpt도 기억력의 한계가 있다는 의미입니다.
gpt 3.5는 약 1만 6천 토큰, 최근 4.0 버전은 약 12만 토큰까지 가능하다고 합니다.
이렇게 대화를 계속 이어나가다 보면 어느 순간 챗 gpt는 앞서 했던 대화의 내용을 잊어버리고 엉뚱한 답을 할 수가 있으니 주의하셔야 합니다.
토큰의 한계가 있는 만큼 계속적으로 질문과 답변을 받는다면 답변에 오류가 생길 수 있으니 질문 하나하나를 잘 작성하셔야 합니다. 즉 프롬프트 작성이 아주 중요하다는 의미입니다.
마치며
지금까지 챗 gpt상에서 말하는 프롬프트의 개념과 중요성, 그리고 챗 gpt의 작동 원리에 대해 알아보았습니다.
대략적으로 챗 gpt를 이해를 조금만 이해해 본다면 왜 프롬프트가 중요한 것인지 여러분도 이해하셨을거라 생각합니다.
직접 챗 gpt를 사용해보면서 다양한 질문을 통해 어떻게 답변이 나오는지 확인해보시면 좀 더 이해가 빠르실거라 생각합니다.