오픈AI, GPT-6 모델 가이드 공개…모델 선택·비용 절감·장기 작업 관리 소개
김정호 기자
간단 요약
- 오픈AI가 GPT-6 모델 제품군 활용 방법을 담은 가이드를 공개했다고 밝혔다.
- 이 가이드는 작업에 필요한 추론 능력과 속도, 비용 등을 고려해 GPT-6 아스트라, GPT-6.1 솔, GPT-6 루나를 선택할 수 있도록 구성됐다고 전했다.
- 반복 프롬프트에 대한 프롬프트 캐싱과 장시간 작업을 위한 백그라운드 실행·비동기 도구 호출로 비용과 지연시간을 줄일 수 있다고 전했다.
기간별 예측 흐름 리포트
오픈AI(OpenAI)가 GPT-6 모델 제품군의 활용 방법을 담은 가이드를 공개했다. 작업에 따른 모델 선택부터 캐싱을 통한 비용 절감, 장시간 실행되는 작업 관리 방법 등을 다뤘다.
2일(현지시간) 가상자산(암호화폐) 전문 코인텔레그래프에 따르면 GPT-6 제품군은 작업에 필요한 추론 능력과 속도, 비용 등을 고려해 모델을 선택할 수 있도록 구성됐다. GPT-6 아스트라(Astra), GPT-6.1 솔(Sol), GPT-6 루나(Luna) 등이 용도에 따라 제공된다.
비용과 지연시간을 줄이는 방법으로는 프롬프트 캐싱 활용이 제시됐다. 반복되는 프롬프트의 동일한 앞부분을 재사용해 입력 처리 비용과 응답 대기시간을 줄일 수 있다는 설명이다.
오픈AI는 장시간 이어지는 작업을 위한 기능도 소개했다. 백그라운드 실행과 비동기 도구 호출 등을 활용해 수시간 이상 이어지는 작업을 관리할 수 있도록 지원한다.
김정호 기자
reporter1@bloomingbit.io안녕하세요 블루밍비트 기자입니다.