[인공지능] OpenAI: ChatGPT 모델 총정리 (2023년 4월 기준)

[인공지능] OpenAI: ChatGPT 모델 총정리 (2023년 4월 기준)

 

[인공지능] OpenAI: ChatGPT 모델 총정리 (2023년 4월 기준) 에 대해 리뷰하려고 합니다.

 

샘 알트만, 유태인 출신으로 스탠퍼드 대학 CS 중퇴

우선, 샘 알트만 Samuel Altman 은 1985년 미국 시카고에서 피부과 의사 모친에게서 유태인 가정에 태어나, 미주리에서 주로 성장하고, 스탠퍼드 대학교 컴퓨터사이언스를 중퇴하고, 바로 벤처 투자자로 활약하면서, 2015년 Open AI 창업자이자 CEO 가 된 인물입니다.

 

샘 알트만 Samuel Altman

 

샘 알트만 본인은 코딩 능력이 뛰어나달지, 직접 인공지능을 개발하는 것 같지는 않지만, 인공지능의 개발 및 사업화에 대한 전략적인 방향을 정하는 전략가로 판단되네요.

 

즉, OpenAI는 비영리 OpenAI Incorporated 와 그 영리 자회사인 OpenAI Limited Partnership으로 구성된 미국 인공 지능 (AI) 연구소로 일반인 대상으로 인공지능 기능을 제공하는 목적으로 AI 연구를 주도하면서, OpenAI 시스템은 Microsoft의 Azure 기반 슈퍼컴퓨팅 플랫폼에서 실행됩니다.

 

OpenAI는 Ilya Sutskever , Greg Brockman, Trevor Blackwell , Vicki Cheung, Andrej Karpathy , Durk Kingma, John Schulman, Pamela Vagata, Wojciech Zaremba 가 2015년 11월에 설립되고, Sam Altman과 Elon Musk 가 초기 이사회 멤버로 활동했지요.  기업투자자로는 Infosys, Khosla Ventures, Microsoft가 참여했는데, Microsoft는 OpenAI LP에 2019년에 10억 달러, 2023년에 100억 달러를 투자하고, ChatGPT 사용에 대한 독점 라이선스를 받지요.

 

최근 OpenAI는 더이상 주요 소스코드 및 논문을 발표하지는 않는데, 주로 Alec Radford와 팀 멤버들이 주요 논문을 몇차례 발표하였네요.

 

Generative Pre-Training 논문

 

 

OpenAI 영리추구: 투자금액의 100배 한도

2019년에 OpenAI는 비영리에서 영리를 위한 "한도"로 전환했으며 이익은 투자의 100배로 제한됩니다.

 

2020년에 OpenAI는 대규모 인터넷 데이터 세트에서 훈련된 언어 모델인 GPT-3을 발표했고, GPT-3는 질문에 대한 자연어 응답을 목표로 하지만 언어 간 번역이 가능하고 즉석 텍스트를 일관되게 생성할 수 있습니다. 또한 단순히 "API"라고 명명된 관련 API가 첫 상용 제품의 핵심이 될 것이라고 발표했네요.

 

2021년 OpenAI는 자연어 설명에서 디지털 이미지를 생성할 수 있는 딥 러닝 모델인 DALL-E를 발표합니다.

 

2022년 12월 OpenAI는 GPT-3.5 기반의 새로운 AI 챗봇 인 ChatGPT 의 무료 프리뷰를 출시한 후 광범위한 언론 보도를 받았고, OpenAI에 따르면 프리뷰는 처음 5일 동안 백만 건 이상의 사용자 가입을 확봐고, 2022년 12월 로이터가 인용한 익명의 소식통에 따르면 OpenAI는 2023년에 2억 달러, 2024년에는 10억 달러의 수익을 예상하네요.

 

2023년 1월 현재 OpenAI는 2021년 회사 가치의 두 배인 290억 달러로 회사의 가치를 높이는 자금 조달이 협의 중이고, 특히, OpenAI의 ChatGPT를 Bing 검색 엔진에 통합하려는 Microsoft가 주도 하는 것으로 알려지고 있지요.

이 와중에 Google은 ChatGPT가 출시된 후 유사한 AI 애플리케이션 Bard 를 발표했지만, 아직 정교한 수준은 아닌 듯 합니다. 

 

2023년 2월 7일 Microsoft는 ChatGPT와 동일한 기반을 기반으로 하는 AI 기술을 Microsoft Bing , Edge , Microsoft 365 및 Teams 제품 등 적용할 계획을 발표했네요.

 

Generative Pre-Training 논문

 

 

인공지능의 사용권한 전략? 일반인 vs 특정인

머스크는 "좋은 미래를 보장하기 위해 우리가 할 수 있는 최선의 방법은 무엇인가?

우리는 방관할 수도 있고 규제 감독을 장려할 수도 있는데, 안전하고 인류에게 유익한 방식으로 가능한데, 실제로 (친근한) AI를 발전시키려는 시도에서 우리가 우려하는 것을 만들 수도 있는 약간의 위험이 항상 있다"고 인정했지요.

그럼에도 최선의 방어책은 "가능한 한 많은 사람들이 AI를 가질 수 있도록 권한을 부여하는 것으로, 모든 사람이 AI 권한을 가지고 있다면 AI 초능력을 가질 수 있는 한 사람 또는 소수의 개인이 없다는 것입니다." 

 

모든 사람에게 AI를 제공함으로써 AI가 전반적인 해를 끼칠 위험을 줄이려는 머스크와 알트만의 반직관적 전략은 인공지능의 실존적 위험을 우려하는 사람들 사이에서 논란이 되고 있지만, ChatGPT 발표 이후 인공지능 챗봇에 대한 사용은 급격한 확산을 이루고 있지요.

 

 

OpenAI의 GPT 모델 총정리

GPT-1

변환기 기반 언어 모델의 생성적 사전 훈련에 관한 원본 논문은 Alec Radford와 그의 동료가 작성했으며 2018년 6월 11일 OpenAI 웹사이트에 사전 인쇄로 게시되었고, 긴 연속 텍스트가 있는 다양한 말에 대한 사전 교육을 통해 세계 지식을 습득하고 장거리 종속성을 처리합니다.

 

GPT-2 

Generative Pre-trained Transformer 2("GPT-2")는 감독되지 않은 변환기 언어 모델 이며, OpenAI의 원래 GPT 모델의 후속 모델입니다. GPT-2는 2019년 2월에 처음 발표되었고, 처음에는 제한된 데모버전이었으나, GPT-2 정식 버전은 가짜 뉴스 작성을 위한 애플리케이션을 포함하여 오용 가능성을 우려하여 즉시 출시되지 않았지요.

 

GPT 모델

 

GPT-3

2020년 5월에 처음 설명된 GPT-3(Generative Pre-trained Transformer 3)은 감독되지 않은 변환기 언어 모델이며 GPT-2 의 후속 모델로, OpenAI는 GPT-3 정식 버전 에 1750 억개의 매개변수가 포함되어 있는 것으로 발표되었네요.

OpenAI는 GPT-3가 특정 " 메타 학습 " 작업에서 성공했는데, 단일 입력-출력 쌍의 목적을 일반화할 수 있어서, 논문에서 영어와 루마니아어, 영어와 독일어 간의 번역 및 교차 언어전이 학습의 예를 제공합니다.

 

GPT-4

2023년 3월 14일, OpenAI는 텍스트 또는 이미지 입력을 수용할 수 있는 GPT-4(Generative Pre-trained Transformer 4)의 출시했는데, OpenAI는 업데이트된 기술이 시험 응시자의 상위 10% 정도의 점수로 모의 로스쿨 변호사 시험을 통과했다고 발표했지요. 반면 이전 버전인 GPT-3.5는 하위 10% 정도의 점수를 받았다고 합니다.

GPT-4는 또한 최대 25,000단어의 텍스트를 읽고 분석하거나 생성할 수 있으며 모든 주요 프로그래밍 언어로 코드를 작성할 수도 있네요.

 

ChatGPT Plus는 ChatGPT의 GPT-4 지원 버전으로 월 20 USD의 구독료 로 이용 가능합니다 (원래 버전은 GPT-3.5 지원).  OpenAI는 또한 GPT-4 API 대기자 명단을 통해 일부 지원자 그룹이 GPT-4를 사용할 수 있고, 수락 후 모델에 제공된 초기 텍스트("프롬프트")에서 1000 토큰 당 0.03 USD의 추가 수수료와 모델이 생성하는("완료") 1000 토큰 당 0.06 USD의 추가 수수료를 책정합니다. 

 

 

 

 

[인공지능] OpenAI ChatGPT: 오픈AI 챗GPT 모델 기술분석

[인공지능] Google Gemini Ultra/ Pro/ Nano: 구글 AI 모델 제품군