본문 바로가기
728x90

Natural Language Processing/LLM Bootcamp2

[LLM Bootcamp 리뷰] Learn to Spell: Prompt Engineering 리뷰 Introduction 이번 강의에서는 언어 모델을 사용하기 위해서 어떤 방식을 활용해야 하는지 2가지 챕터로 나눠서 설명한다. 첫번째는, 프롬프트 형식들이 어떻게 발전해왔는지 프롬프트의 아이디어는 무엇이 있는지 "PROMPTS ARE MAGIG SPELL"이라는 제목으로 설명한다. 두번째는, 언어 모델을 통해서 원하는 결과를 얻기 위해 어떻게 텍스트를 입력해야 하는지 "PROMPTING TECHNIQUES"라는 제목으로 설명한다. LM are "just" statistical models of text 프롬프트는 선형대수 알고리즘을 기반으로 한다. 따라서 언어 모델은 텍스트를 기반한 통계적인 모델이다. 즉, 어떤 문장이 입력되면 그 다음에 어떤 단어가 올지 예측하도록 학습한 "Auto-regreesiv.. 2023. 5. 30.
[LLM Bootcamp 리뷰] Launch an LLM App in One Hour Introduction 1960년대에도 인공지능에 대한 이야기가 나왔었다. 하지만, 지금과 예전과 가장 큰 다른점은 현재는 하나의 툴써로 large language model이 사용해 다양한 task를 수행할 수 있다는 점이다. 그렇다면 large language model이 무엇인가? 라고 했을 때, 가장 핵심적인 것은 다음에 올 단어를 예측하는 것이다. 이렇게 large language model이 사람과 상호작용하기 위해서는 Language User Interface가 가장 중요한 요소다. 따라서 Language user interface에 관한 내용 또한 1960년대부터 대두되기 시작했다. (ELIZA는 채팅 로봇 치료사이며, Ask Jeeves는 최초의 검색엔진 이다.) 이때, 1990년도에는 .. 2023. 5. 16.
728x90