[인공지능] OpenAI: ChatGPT 모델 정리 (2023년 4월 기준)
[인공지능] OpenAI: ChatGPT 모델 정리 (2023년 4월 기준) 에 대해 리뷰하려고 합니다.
OpenAI의 GPT 모델 정리
GPT-1
변환기 기반 언어 모델의 생성적 사전 훈련에 관한 원본 논문은 Alec Radford와 그의 동료가 작성했으며 2018년 6월 11일 OpenAI 웹사이트에 사전 인쇄로 게시되었고, 긴 연속 텍스트가 있는 다양한 말에 대한 사전 교육을 통해 세계 지식을 습득하고 장거리 종속성을 처리합니다.
GPT-2
Generative Pre-trained Transformer 2("GPT-2")는 감독되지 않은 변환기 언어 모델 이며, OpenAI의 원래 GPT 모델의 후속 모델입니다. GPT-2는 2019년 2월에 처음 발표되었고, 처음에는 제한된 데모버전이었으나, GPT-2 정식 버전은 가짜 뉴스 작성을 위한 애플리케이션을 포함하여 오용 가능성을 우려하여 즉시 출시되지 않았지요.
GPT-3
2020년 5월에 처음 설명된 GPT-3(Generative Pre-trained Transformer 3)은 감독되지 않은 변환기 언어 모델이며 GPT-2 의 후속 모델로, OpenAI는 GPT-3 정식 버전 에 1750 억개의 매개변수가 포함되어 있는 것으로 발표되었네요.
OpenAI는 GPT-3가 특정 " 메타 학습 " 작업에서 성공했는데, 단일 입력-출력 쌍의 목적을 일반화할 수 있어서, 논문에서 영어와 루마니아어, 영어와 독일어 간의 번역 및 교차 언어전이 학습의 예를 제공합니다.
GPT-4
2023년 3월 14일, OpenAI는 텍스트 또는 이미지 입력을 수용할 수 있는 GPT-4(Generative Pre-trained Transformer 4)의 출시했는데, OpenAI는 업데이트된 기술이 시험 응시자의 상위 10% 정도의 점수로 모의 로스쿨 변호사 시험을 통과했다고 발표했지요. 반면 이전 버전인 GPT-3.5는 하위 10% 정도의 점수를 받았다고 합니다.
GPT-4는 또한 최대 25,000단어의 텍스트를 읽고 분석하거나 생성할 수 있으며 모든 주요 프로그래밍 언어로 코드를 작성할 수도 있네요.
ChatGPT Plus는 ChatGPT의 GPT-4 지원 버전으로 월 20 USD의 구독료 로 이용 가능합니다 (원래 버전은 GPT-3.5 지원). OpenAI는 또한 GPT-4 API 대기자 명단을 통해 일부 지원자 그룹이 GPT-4를 사용할 수 있고, 수락 후 모델에 제공된 초기 텍스트("프롬프트")에서 1000 토큰 당 0.03 USD의 추가 수수료와 모델이 생성하는("완료") 1000 토큰 당 0.06 USD의 추가 수수료를 책정합니다.