본문 바로가기

1️⃣ AI•DS/🌏 LLM5

[책스터디] 4. GPT-3가 챗GPT로 발전할 수 있었던 방법 📍 현재의 챗GPT가 탄생할 수 있었던 배경 1. 지시 데이터셋을 활용해 Supervised fine tuning 방법으로 사용자의 요청에 맞는 응답을 할 수 있도록 학습함 2. 사용자에게 더 도움이되고 더 선호하는 응답을 할 수 있도록, 강화학습방법(RLHF, PPO)을 사용하거나 강화학습을 사용하지 않는 방법 (Rejective sampling, DPO) 방법을 사용함 1. 사전 학습과 지도 미세 조정 1.1 LLM의 사전학습 ❍ LLM은 블로그, 기사, 코드 등 인터넷상에 있는 다양한 텍스트 데이터를 수집한 대용량의 텍스트로 사전 학습을 한다. ↪︎ 우리가 책, 깃허브코드 등 다양한 자료를 통해 프로그래밍 언어의 문법이나 자료구조, 알고리즘 같은 기본 개념을 공부하는 과정과 유사.. 2025. 7. 6.

[책 스터디] 3. 허깅페이스 트랜스포머 라이브러리 👀 LLM을 활용한 실전 AI 애플리케이션 개발 책 스터디 정리 자료 (저작권 문제시 잠금하겠습니다~!) ▶️ 실습코드 (깃헙 공개코드 활용)▶️ 깃헙코드 1. 허깅페이스 트랜스포머란 ◯ Transformer 라이브러리 • 공통된 인터페이스로 트랜스포머 모델을 활용할 수 있도록 지원하여 딥러닝 분야의 핵심 라이브러리 중 하나 (오픈소스 라이브러리) • 모델과 토크나이저 → transformer 라이브러리 : AutoTokenizer, AutoModel• 데이터셋 → datasets 라이브러리 from transformers import AutoTokenizer, AutoModeltext = "What is Huggingface Transformers?"# BERT 모델 .. 2024. 12. 16.

[책 스터디] 2. 트랜스포머 아키텍처 살펴보기 👀 LLM을 활용한 실전 AI 애플리케이션 개발 책 스터디 정리 자료 ▶️ LLM • 대부분의 LLM이 트랜스포머 아키텍처를 기반으로 한다. • 최근의 LLM은 디코더만을 사용한 GPT 모델 그룹이고 인과적 학습 모델링을 통해 학습한다. 1. 트랜스포머 아키텍처 ◯ 트랜스포머 • 2017년 구글의 Attention is all you need 논문에서 처음 등장한 개념으로, 기계번역 성능을 높이기 위한 방법으로 등장했다. • 현재는 NLP는 물론, CV, 추천시스템등 모든 AI 분야에서 핵심 아키텍처로 사용되고 있다. ◯ RNN • 토큰 : 모든 자연어 처리의 기본 연산 단위 • h : 입력 토큰을 RNN 모델에 입력했을 때 출력 → 이전 토큰의 출력.. 2024. 12. 11.

[책 스터디] 13.LLM 운영하기 보호되어 있는 글 입니다. 2024. 12. 3.

[책 스터디] 1. LLM 기초 : sLLM, RAG 👀 LLM을 활용한 실전 AI 애플리케이션 개발 책 스터디 정리 자료 ▶️ 들어가며 • 2024년 7월 기준, AI와 LLM 시장의 키워드 : 멀티모달, 에이전트, 온디바이스 • 멀티모달 : AI모델이 텍스트 뿐 아니라 이미지, 음성, 동영상 등 다양한 형식의 데이터를 처리하는 것을 의미 • 에이전트 : AI모델이 장기기억을 가지고 인터넷 검색, 코드 실행 등 다양한 도구를 활용해 사용자의 문제를 해결하는 더 발전된 시스템 (단순히 질문에 답하는 것을 넘어, 주어진 목표를 달성하기 위해 스스로 판단하고 행동하는 소프트웨어 프로그램) • 온디바이스AI : AI모델이 클라우드나 고성능 서버에서 실행되는 것이 아닌, 사용자의 장비에서 직접 실행되는 것을 의미한다. 개인 정보의 유출.. 2024. 12. 1.

이전 1 다음

728x90

티스토리툴바