너와 나의 스토리

LLM Conditioning조건화(conditioning)모델을 특정 작업에 맞게 조정하거나 모델 출력이 기대한 대로 일치하는지 확인하는 과정모델의 출력 생성을 지시하기 위해 사용하는 다양한 방법의 모음조건화의 두 가지 방법미세 조정(fine tuning)프롬프트 기술정렬(alignment)LLM의 일반적인 행동, 의사 결정과정 및 출력이 좀 더 넓은 인간의 가치, 윤리 원칙 등에 부합하도록 훈련하고 수정하는 과정과 목표를 가리킨다.조건화와 동의어가 아님.조건화는 파인 튜닝을 포함할 수 있으며, 상호 작용의 다양한 층에서 모델을 영향을 주는 것에 중점을 두지만,정렬은 모델의 행동을 인간의 윤리와 안전 기준에 대한 기본적이고 전체적인 교정에 관심이 있다. 파인 튜닝사전 훈련된 모델의 모든 매개변수를 전문..

문제링크: https://leetcode.com/problems/number-of-sub-arrays-with-odd-sum/description/입력: 정수 리스트출력: sub-array의 합이 음수인 것의 개수  풀이 방법현재 합이 짝수일 때, 홀수를 더해야 홀수가 되고현재 합이 홀수일 때는 짝수를 더해야 홀수가 된다.예: [1, 3, 5]짝수가 처음부터 한 개인 이유 -> 0으로 시작하기 때문 0135지금까지 숫자 합0149짝수 개수1122홀수 개수0123count sum01(짝수 개수를 더함)2(홀수 개수를 더함)4(짝수 개수를 더함)결과   4 코드class Solution(object): def numOfSubarrays(self, arr): MOD = 10**9 + 7 ..

생성 모델, AI, ML, DL 언어 모델 키워드 구별하기AI: 컴퓨터 과학의 넓은 분야로 추론, 학습, 자율적 행동이 가능한 지능적 에이전트를 만드는 데 중점을 둔다.ML(Machine Learning): 데이터로부터 학습할 수 있는 알고리즘을 개발하는 AI의 하위 분야.DL(Deep Learning): 많은 계층을 가진 심층 신경망을 사용해 데이터로부터 복잡한 패턴을 학습하는 ML 알고리즘의 메커니즘.생성 모델(Generative Models): 입력 데이터에서 학습한 패턴을 기반으로 새로운 데이터를 생성할 수 있는 ML 모델의 한 유형.언어 모델(Language Model): 자연 언어의 시퀀스에서 단어를 예측하기 위해 사용되는 통계 모델. 언어 모델 중 일부는 DL을 활용하여, 대규모 데이터셋에서..

문제링크: https://leetcode.com/problems/largest-divisible-subset/description/?envType=daily-question&envId=2024-07-06입력: distinct 양의 정수 리스트조건: 리스트에 들어 있는 모든 정수 쌍(pair)이 나누어 떨어져야 한다.  -> a % b == 0 이거나 b % a ==0 둘 중 하나의 조건만 만족하면 됨.출력: 위 조건을 만족하는 가장 큰 사이즈의 리스트 풀이 방법일단 정렬예: 입력이 [1, 3, 5, 6, 8, 10, 12]라고 하자각 값에 대해서 를 저장해 보자. index는 0부터 시작nums[i] % nums [j] == 0이면 count++하면 된다.이중 포문으로 처리한다고 했을 때, 자기 자신과 ..

문제https://leetcode.com/problems/pass-the-pillow/?envType=daily-question&envId=2024-07-06입력: n, time1번부터 n번까지의 사람이 일렬로 서있다. -> 1, 2, 3, ..., n1번부터 시작해서 베개를 옆으로 토스, n번이 받으면 그 다음은 반대 방향으로 돌아감. -> n번이 (n-1)번에게 토스출력: time만큼 토스했을 때, 베개는 몇 번째 사람이 가지고 있는가? 풀이 방법처음부터 끝까지 토스되는데 걸리는 time은 (n-1)이다.그렇다면 time을 (n-1)로 나눴을 때,몫이 짝수이면 정방향, 홀수이면 역방향임을 알 수 있다.그리고 그 나머지에 대해정방향이면 (나머지+1)번 째 사람이 베개를 가지게 되고,역방향이면 (n-나머..

프롬프트 엔지니어링(Prompt Engineering)LLM이 정확하고 유용한 출력을 반환하도록 유도하는 입력(프롬프트)를 만드는 것.프롬프트 엔지니어링에는 언어의 뉘앙스, 작업 중인 특정 도메인, LLM의 능력과 한계를 이해하는 기술이 필요하다.  언어 모델에서 정렬(Alignment)정렬: 모델이 사용자가 예상한 것과 일치하는 방식으로 입력 프롬프트를 이해하고 답변하는 것.표준 언어 모델링에서 모델은 선행 단어의 맥락을 기반으로 다음 단어나 단어의 시퀀스를 예측하도록 훈련되었으나, 이 접근 방식으로만은 정렬할 수 없음. 추가적인 정렬 기능과 함께 개발된 언어 모델을 사용하면 질문-답변이나 언어 번역과 같은 애플리케이션을 더 유용하게 만들 수 있다.예: RLAIF 프롬프트 엔지니어링 방법간결하면서도 명..

Python 버전이 높아서 호환성에 문제가 생겨서 downgrade를 하려고 한다.  기존 python과 pip 삭제brew uninstall --ignore-dependencies pythonbrew cleanupsudo rm -rf /usr/local/bin/python3sudo rm -rf /usr/local/bin/pip3 Python 3.9.0 설치brew install pyenvpyenv install 3.9.0pyenv global 3.9.0

문제: brew upgrade, uninstall 등 무언가를 할 때마다 아래의 에러 발생Error: Unexpected method 'appcast' called on Cask adoptopenjdk13.Follow the instructions here: https://github.com/Homebrew/homebrew-cask#reporting-bugsseojeongyu@MacBook-Pro-417 ~ % brew untap AdoptOpenJDK/openjdk Error: Unexpected method 'appcast' called on Cask adoptopenjdk13.Follow the instructions here: https://github.com/Homebrew/homeb..