728x90 분류 전체보기74 [Dialogue System] Dialogue System - Task Oriented dialogue system Dialogue System - Task Oriented dialogue system 특정 Task에서 사용자의 요구사항을 파악하고, 이를 해결하기 위한 적절한 대화 시스템을 의미한다. 즉, 시스템 사용자의 음성 혹은 텍스트와 같은 자연어 데이터가 있으면 System(Siri 등)과 서로 상호작용하여 적절한 답변을 생성하는 것이라고 생각하면 된다. 이때, dialogue system은 아래와 같이 두가지로 구분할 수 있다. Single turn conversation: 한 번의 conversation을 통해, User가 원하는 답을 System에 도출하는 것 비교적 쉬운 분야로 높은 수준의 답을 찾기 어려움 Multi turn conversation: 여러 번의 conversation을 통해, User가.. 2023. 7. 12. AttributeError: module 'bitsandbytes.nn' has no attribute 'Linear8bitLt' 단순히 해당 패키지 삭제 후, 재설치하면 된다. pip uninstall bitsandbytes pip install bitsandbytes 2023. 7. 12. [QLoRA 수행 시 에러] undefined symbol: cquantize_blockwise_fp16_nf4 해당 에러는 cuda 버전을 잘 설정해주면 된다. 아래와 같이 탐지된 cuda 버전을 확인한 다음, AttributeError 다음에 나와있는 bitsandbytes가 있는 경로로 이동한 다음 카피해주면 해결된다. cd /home/jisukim/.cache/pypoetry/virtualenvs/lima-Gl190b5G-py3.9/lib/python3.9/site-packages/bitsandbytes cp libbitsandbytes_cuda117.so libbitsandbytes_cpu.so 2023. 7. 5. [LLM 평가 지표] Elo Ratings으로 LLM모델들을 랭킹하는 방법 Elo 등급 시스템은 원래 체스 선수의 순위를 매기기 위해 고안된 방법이다. 다양한 LLM 모델들을 비교하기 위해 Elo 시스템을 활용하여 일대일 비교를 통해 LLM을 평가하고 순위를 매긴다. Elo rating이란? Elo rating은 전 세계 체스 플레이어의 순위를 매기기 위해 만들어 졌다. 플레이어는 1000앨로(초보자)에서 2800엘로 이상(프로) 사이의 등급으로 시작한다. 플레이어가 경기에서 승리하면 상대방의 엘로 등급에 따라 등급이 올라간다. 쉽게 예를들어 설명한다면, 내가 1000엘로 등급으로 시작하여 2882 등급의 선수를 이긴다면, 나의 등급은 1032엘로로 32포인트 상승하고, 선수의 등급은 2850으로 32포인트 하락하게 된다. 등급의 상승과 하락은 공식에 따라 결정된다. 이 공식을.. 2023. 7. 3. 이전 1 2 3 4 5 6 7 8 ··· 19 다음 728x90
