ICLR2024

    TIL 240201- GPT5, MambaByte, ICLR2024

    GPT5 unlocks LLM System2 Thinking? https://www.youtube.com/watch?v=A6VUwJ5qHlI 1. 시스템 1 및 시스템 2 사고 소개: - 동영상에서는 인간 인식의 시스템 1 (빠르고 직관적인 사고) 및 시스템 2 (느린, 더 합리적인 사고) 개념을 논의합니다. - 지구의 궤도나 장난감 가게 가격 측정 시나리오와 같은 예를 들어 개인이 복잡한 문제에 시스템 1 사고를 적용할 때 발생하는 어려움을 설명합니다. 2. 대형 언어 모델 (LLM) - GPT 모델과의 비교: - 현재의 대형 언어 모델 (LLM)인 GPT-4의 한계점을 강조하며, 이 모델이 시스템 2 사고 능력을 본질적으로 갖추지 못하고 있는 점을 설명합니다. - LLM이 단순한 쿼리와 복잡한 질문에..