LLM은 어떻게 글을 쓸까? 다음 단어를 맞히는 원리

이 영상은 챗봇이 글을 쓰는 원리를 LLM의 '다음 단어 맞히기'로 설명합니다. 텍스트를 토큰과 숫자로 바꾸고, 수많은 파라미터를 가진 신경망이 데이터로 학습하며, 어텐션으로 문맥의 관계를 파악한다는 흐름입니다. 이후 사람의 피드백으로 대화형으로 다듬어지지만, 그럴듯한 오답을 낼 수 있어 결과를 검증해야 한다는 점도 짚습니다.

⏱ 00:00영상은 메이아가 챗봇에게 금요일 피자 모임 초대 메시지를 부탁하는 장면으로 시작합니다. 글이 자연스럽게 채워지는 모습은 사람이 쓴 것처럼 보이지만, 발표자는 그 뒤에 미리 저장된 답변 목록이나 타자 치는 사람이 있는 것이 아니라고 말합니다. 이 기술의 정체는 대규모 언어 모델, 즉 LLM이며, 핵심 작업은 생각보다 단순하다는 것이 출발점입니다.

⏱ 00:24LLM의 기본 동작은 다음에 올 단어를 맞히는 것입니다. 'The pizza came straight out of the...' 뒤에 oven이 올 확률이 높듯, 모델은 지금까지의 텍스트를 읽고 알고 있는 단어마다 다음 자리에 올 점수를 매긴 뒤 하나를 골라 붙입니다.

이 과정을 반복하면 답변이 한 단어씩 써지는 것처럼 보입니다. 또한 temperature 설정에 따라 최고 점수가 아닌 단어를 고르기도 해서, 낮으면 안전하게, 높으면 모험적으로 답하며 같은 질문에도 다른 답이 나올 수 있습니다. 저장된 답을 찾아 보여 주는 것이 아니라 한 번에 하나씩 추측한다는 점이 중요하다고 강조합니다.

⏱ 02:08컴퓨터는 단어를 바로 계산할 수 없어서 먼저 텍스트를 토큰이라는 조각으로 나눕니다. 짧고 흔한 단어는 토큰 하나이고 긴 단어는 여러 조각이 되며, 영어에서는 토큰 하나가 단어의 약 4분의 3 분량이라고 합니다.

각 토큰에는 ID 번호가 붙지만 그것만으로는 뜻을 알 수 없어서, 임베딩이라는 긴 숫자 목록이 함께 부여됩니다. 이를 의미의 주소에 비유하면, 비슷한 방식으로 쓰이는 단어는 가까운 주소에 놓입니다. 예를 들어 pizza는 pasta 근처에, carburetor와는 멀리 떨어집니다. 이 주소는 사람이 정하지 않고 학습 과정에서 모델이 스스로 만들어 냅니다.

⏱ 03:09숫자로 바뀐 입력은 신경망을 통과합니다. 발표자는 뇌와의 비교는 잠시 접고, 수많은 손잡이가 달린 거대한 기계를 떠올려 보라고 합니다. 입력 숫자가 손잡이 값과 곱해지고 더해지며 층을 거쳐 가면, 가능한 다음 토큰마다 점수가 나옵니다. 이 손잡이 값을 파라미터라고 하며, 2020년의 GPT-3는 1750억 개를 가졌다고 소개합니다.

사람이 일일이 설정할 수 없으므로 처음엔 무작위 값에서 시작해, 다음 단어를 가린 실제 문장으로 예측을 시험하고 틀린 만큼 각 손잡이를 조금씩 조정합니다. 이 작은 수정을 방대한 책과 웹, 코드에 대해 수없이 반복하면서 문법이나 사실 같은 패턴이 값 속에 스며듭니다. 누구도 규칙이나 사실을 직접 입력하지 않았다는 점이 핵심으로 강조됩니다.

⏱ 04:57문장 속 단어들이 서로의 관계를 파악하는 방법으로 어텐션이 소개됩니다. 'The animal didn't cross the street, because it was too tired'에서는 it이 동물을, 'too wide'에서는 길을 가리키는 것처럼, 각 단어가 다른 단어 중 무엇이 중요한지 가중치를 두는 방식입니다. 2017년 구글 연구진의 논문 'Attention Is All You Need'는 이 개념에 기반한 트랜스포머 구조를 제안했고, GPT의 T가 바로 그것입니다.

다만 막 학습을 마친 모델은 자동완성에 가까워서, 질문 목록의 다음 항목을 이어 쓰기도 합니다. 그래서 사람이 좋은 대화 예시를 만들고 답변을 비교해 선호하는 방향으로 다시 다듬습니다. 채팅 화면도 실은 하나의 긴 문서이며, 모델은 기억을 스스로 갖지 않아 앱이 대화를 매번 다시 보내고, 한 번에 읽을 수 있는 분량에는 컨텍스트 창이라는 한계가 있습니다.

⏱ 06:25LLM의 유명한 문제는 틀린 내용을 확신에 찬 말투로 말한다는 점입니다. 2023년 뉴욕의 변호사들이 ChatGPT가 만든 존재하지 않는 판례를 법원 서면에 인용했다가 판사에게 5000달러의 벌금을 받은 사례가 소개됩니다. 모델은 사실 여부보다 그럴듯한 형태의 글을 만들도록 학습되었기 때문에, 가짜 인용도 실제 인용과 똑같은 모양으로 완벽하게 들어맞습니다. 자신감 있는 말투 역시 학습된 패턴일 뿐이라 정확성을 보장하지 않습니다.

또 글자가 아니라 토큰 덩어리를 보기 때문에 strawberry 속 r의 개수를 자주 틀리기도 합니다. 그래서 LLM은 박학다식하지만 추측을 솔직히 밝히지 않을 때도 있는 친구처럼 생각하고, 아이디어나 초안에는 쓰되 중요한 내용은 반드시 검증하라고 권합니다.

⏱ 08:02마지막으로 LLM이 정말 이해하는지는 연구자들 사이에서도 의견이 엇갈린다고 정리합니다. 사람이 만든 모델이지만 학습한 내용은 수많은 숫자에 흩어져 있어 직접 읽기 어렵고, 연구자들은 그 내부를 들여다보기 시작한 단계입니다. 2024년 Anthropic 연구팀은 골든게이트 브리지에 반응하는 특징을 찾아 값을 키웠더니 질문과 무관한 답변에도 다리 이야기가 계속 나왔다고 소개합니다. 숫자 더미 속에 실제 개념에 해당하는 구조가 있을 수 있다는 뜻이지만, 지도는 아직 그리는 중입니다.

영상은 전체 과정을 토큰화, 신경망 계산, 어텐션, 다음 토큰 선택의 반복으로 요약하고, 충분히 좋은 추측이 쌓이면 생각처럼 보이기 시작한다고 마무리합니다.