너와 나의 스토리

프롬프트 엔지니어링(Prompt Engineering)LLM이 정확하고 유용한 출력을 반환하도록 유도하는 입력(프롬프트)를 만드는 것.프롬프트 엔지니어링에는 언어의 뉘앙스, 작업 중인 특정 도메인, LLM의 능력과 한계를 이해하는 기술이 필요하다.  언어 모델에서 정렬(Alignment)정렬: 모델이 사용자가 예상한 것과 일치하는 방식으로 입력 프롬프트를 이해하고 답변하는 것.표준 언어 모델링에서 모델은 선행 단어의 맥락을 기반으로 다음 단어나 단어의 시퀀스를 예측하도록 훈련되었으나, 이 접근 방식으로만은 정렬할 수 없음. 추가적인 정렬 기능과 함께 개발된 언어 모델을 사용하면 질문-답변이나 언어 번역과 같은 애플리케이션을 더 유용하게 만들 수 있다.예: RLAIF 프롬프트 엔지니어링 방법간결하면서도 명..

Python 버전이 높아서 호환성에 문제가 생겨서 downgrade를 하려고 한다.  기존 python과 pip 삭제brew uninstall --ignore-dependencies pythonbrew cleanupsudo rm -rf /usr/local/bin/python3sudo rm -rf /usr/local/bin/pip3 Python 3.9.0 설치brew install pyenvpyenv install 3.9.0pyenv global 3.9.0

문제: brew upgrade, uninstall 등 무언가를 할 때마다 아래의 에러 발생Error: Unexpected method 'appcast' called on Cask adoptopenjdk13.Follow the instructions here: https://github.com/Homebrew/homebrew-cask#reporting-bugsseojeongyu@MacBook-Pro-417 ~ % brew untap AdoptOpenJDK/openjdk Error: Unexpected method 'appcast' called on Cask adoptopenjdk13.Follow the instructions here: https://github.com/Homebrew/homeb..

텍스트 임베딩(Text Embedding)단어나 구문을 맥락적 의미를 기반으로 다차원 공간에서 기계가 읽을 수 있는 수치 벡터로 표현하는 방법 작업비대칭적 의미 기반 검색의미 기반 검색 시스템사용자 쿼리의 의미와 맥락을 이해하고, 이를 검색 가능한 문서의 의미 및 맥락과 대조할 수 있다.정확한 키워드나 n-gram 일치에 의존하지 않고도 디비에서 관련된 결과를 찾아낼 수 있으며, 사전 훈련된 LLM을 이용하여 쿼리와 문서/정보의 뉘앙스를 이해한다.'비대칭적' 의미 기반 검색?입력 쿼리의 의미 정보와 검색 시스템이 검색해야 하는 문서/정보 사이에 불균형이 있다.  문서 청킹큰 문서를 임베딩하기 위해 더 작고 관리 가능한 청크로 나누는 것을 의미한다.문서 청킹 방법:최대 토큰 범위 분할(Max Token W..

Chat Completion APIopenAI의 gpt-3/4 모델 기반의 api이 API는 사용자와 AI 간의 대화 흐름을 관리하는데 사용된다.대화 형식system: 대화의 맥락이나 모델의 행동을 설정하는데 사용됨user: 실제 사용자가 입력한 텍스트assistant: 모델이 생성한 응답 -> 이전 대화 내용을 전달하기 위해 사용됨[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Who won the world series in 2020?"}, {"role": "assistant", "content": "The Los Angeles Dodgers won the World Serie..

NLP(Natural Language Processing)컴퓨터가 인간의 언어를 이해하고 생성하며 분석할 수 있도록 하는 인공지능의 한 분야.NLP는 넓은 분야를 의미하고, LLM은 그 중 하나의 접근 방식이다. LLM(Large Language Mechanism)방대한 양의 데이터로 훈련된 모델로, 자연어 이해와 생성에 뛰어난 성능을 보인다.규칙 기반(Rule based) 접근 방식의 한계를 극복하고, 문맥 이해와 다양한 NLP 작업을 처리하는 능력을 갖추고 있다.작동 방식은 크게 3가지로 나뉜다.토큰화트랜스포머 모델프롬프트 토큰화자연어 처리의 일부로 일반 인간 언어를 저수준 기계 시스템이 이해할 수 있는 시퀀스로 변환하는 작업 트랜스포머 모델순차적 데이터를 검사하여 어떤 단어가 서로 뒤따를 가능성이 ..

1. Docker build 베이스 코드: https://github.com/baiyongzhen/webrtc-janus 여기서 dockerfile을 아래와 같이 수정 출처: https://github.com/agonza1/Janus-webrtc-server-container/blob/main/Dockerfile FROM debian:latest ENV BUILD_FOLDER /tmp/build ENV WORK_FOLDER /opt ENV VENV_PATH=/opt/venv RUN mkdir -p ${BUILD_FOLDER} RUN mkdir -p ${WORK_FOLDER} RUN apt-get update && apt-get install -y --fix-missing \ libmicrohttpd-de..

Janus WebRTC Media Server 실행 Janus-webrtc-server-container pull 받아오기 docker image build $ docker build -t janus-server . docker 실행 $ docker run -p 8088:8088 janus-server 실행 확인 http://localhost:8088/janus/info에 접속해서 아래처럼 나오면 정상 실행된 것 리액트 앱 실행 여기서 pull 받아오기 앱 실행 yarn install yarn start http://localhost:3000/에 접속 (자동으로 페이지가 열림) 다른 브라우저에서 추가로 접속하면 participant에 카메라 화면이 추가로 미러링 됨 참고 - https://webrtc.v..