ChatGPT가 제시하는 AI와의 대화, Azure Open AI 서비스 소개

발표자
- Microsoft 김한결 매니저


AI의 발전 방향
wave 1. 텍스트의 이해 및 처리
    순환 신경망 기반
    소규모 문장 처리단순 분류 중심의 역할 수행
wave 2. 자연어 처리 방식의 혁신
    긴 문장의 맥락을 이해할 수 있는 모델
wave 3. 최적화/대형화를 통한 생성 AI 탄생
    클라우드 기반 대형 언어 모델
    컴퓨팅 자원 최적화
    알고리즘 최적화
    속도 최적화
wave Next. AGI(Artificial General Intelligence)
    대형화, 최적화
    Speech, Vidoe, 3D


Open AI : Core Research


MS와 OpenAI 협력이 가지는 의미
1. super computer
2. MS의 AI 제품이 효용성을 갖을 수 있는지?
3. OpenAI를 통한 혁신


Chat GPT란?
Chat + Generative('생성하는' 문장) + Pretrained(이미 학습이 완료됐으나, 다만 tuning이 가능한) + Transformer('변환', 글의 맥락을 이해할 수 있는 모델)
    주요 기능
    - 이전 대화를 기억하여 답변


ChatGPT는 어떻게 만들었나?
step 1. 샘플 데이터를 기반으로 지도학습 수행
step 2. 비교 데이터 수집, 보상 모델 훈련
step 3. 강화학습 모델을 활용하여, 보상모델 최적화
= Large Language Model(LLM)을 기반으로 함 + 사람들의 손을 타서 지도 학습 + 강화학습


ChatGPT 활용 기본 개념
Prompt(사용자 질의), Completion(답변)
  총 text 길이 = token
    어떻게 질문하느냐에 따라 양질의 결과를 얻을 수 있음


Hyper Parameter Tunning : ChatGPT 모델 성능 최적화 방법
- temperature : 창의성 범주 설정 가능 (0 ~ 1)
1은 답이 매번 달라짐


영어로 질문하는 게 한글로 질문하는 거보다 좋음 (Token이 덜 듬)


Fine-Tuning(모델 최적화)란?
    ChatGPT는 이미 완성형 모델이기 때문에 학습 불가
    그러므로 prompt-completion 문장을 계속 입력


AI 사용자의 활용 역량이 중요해짐 = prompt에 따라 결과가 달라짐


prompt : 데이터/작업 설명 , 샘플, 답변 예시
completion : 문장/코드, 문장에 대한 vector 계산 결과


ChatGPT 활용 능력
    MS Bing > Google ?
    OpenAI GPT 활용 TEAMS = 자동 동시 통역, 미팅 분석, 요약, action item 도출 (23.05 출시)
    자동 programming => 개발자는 리뷰 능력...
    자동화 flow 생성
    자연어 기반 쿼리 작성