OpenAI의 ChatGPT 및 Whisper API가 이제 개발자에게 제공됩니다.

ChatGPT의 90% 비용 절감을 통해 개발자는 최첨단 기술에 저렴한 가격으로 액세스할 수 있으며, Whisper의 음성-텍스트 모델은 이제 주문형 액세스에 사용할 수 있습니다.

OpenAI는 이제 API에서 ChatGPT 및 Whisper 모델을 사용할 수 있어 개발자가 AI 기반 언어 및 음성-텍스트 기능에 액세스할 수 있다고 발표했습니다.

OpenAI는 시스템 전반의 최적화를 통해 12월부터 ChatGPT 비용을 90% 절감했으며 이제 이러한 절감액을 API 사용자에게 전달하고 있습니다.

OpenAI는 AI의 잠재력을 최대한 실현하는 가장 좋은 방법은 모든 사람이 AI를 사용하여 구축할 수 있도록 하는 것이라고 믿습니다.

오늘 발표된 변경 사항은 모든 사람이 혜택을 누릴 수 있는 수많은 애플리케이션으로 이어질 수 있습니다.

더 많은 기업이 OpenAI의 언어 및 음성-텍스트 변환 기능을 활용하여 ChatGPT 및 Whisper를 기반으로 하는 차세대 앱을 개발할 수 있습니다.

또한 OpenAI는 개발자의 피드백을 고려하여 개발자의 요구에 더 잘 맞도록 API 서비스 약관을 변경했습니다.

OpenAI는 gpt-3.5-turbo라는 새로운 ChatGPT 모델 제품군을 출시하고 있으며 가격은 1,000개 토큰당 0.002달러로 기존 GPT-3.5 모델보다 10배 저렴합니다.

이 모델은 채팅이 아닌 다양한 사용 사례에 이상적이며 ChatGPT 제품에서도 동일합니다.

GPT 모델은 전통적으로 일련의 토큰으로 표시되는 구조화되지 않은 텍스트를 사용하는 반면, ChatGPT 모델은 메타데이터가 포함된 일련의 메시지를 사용합니다.

그러나 입력은 모델이 사용할 토큰 시퀀스로 모델에 렌더링됩니다.

gpt-3.5-turbo 모델은 ChatML(Chat Markup Language)이라는 새로운 형식을 사용합니다.

OpenAI는 지속적으로 ChatGPT 모델을 개선하고 이러한 업그레이드를 개발자에게 제공하는 것을 목표로 합니다.

gpt-3.5-turbo 모델을 사용하는 사람들은 항상 권장되는 안정적인 모델을 받게 되는 동시에 특정 버전을 선택할 수도 있습니다.

OpenAI는 gpt-3.5-turbo-0301이라는 새 버전을 출시하고 있으며, 이 버전은 적어도 6월 1일까지 지원을 받을 예정이며, 새로운 안정 릴리스는 4월에 출시될 예정입니다.

개발자는 최신 버전으로 전환하기 위한 업데이트를 모델 페이지에서 찾을 수 있습니다.

OpenAI는 이제 모델 버전과 시스템 성능을 더 효과적으로 제어하려는 사용자를 위해 전용 인스턴스를 제공합니다.

기본적으로 요청은 공유 컴퓨팅 인프라에서 처리되며 사용자는 요청별로 비용을 지불합니다.

그러나 전용 인스턴스를 사용하면 개발자는 요청 전용으로 예약된 컴퓨팅 인프라를 할당하기 위해 일정 기간 동안 비용을 지불합니다.

개발자는 인스턴스의 로드, 더 긴 컨텍스트 제한을 활성화하는 옵션, 모델 스냅샷을 고정하는 기능을 완벽하게 제어할 수 있습니다.

전용 인스턴스는 하루에 약 4억 5천만 개 이상의 토큰을 처리하는 개발자에게 비용 효율적일 수 있습니다.

OpenAI는 2022년 9월 음성-텍스트 모델인 Whisper를 오픈소스 API로 출시했습니다.

Whisper API는 개발자 커뮤니티로부터 상당한 칭찬을 받았습니다. 그러나 작동이 어려울 수 있습니다.

OpenAI는 API를 통해 대규모 v2 모델을 제공하여 개발자에게 분당 0.006달러의 가격으로 편리한 주문형 액세스를 제공합니다.

또한 OpenAI의 서빙 스택은 다른 서비스에 비해 더 빠른 성능을 보장합니다. Whisper API는 원본 언어를 영어로 전사하거나 번역할 수 있는 전사 또는 번역 엔드포인트를 통해 액세스할 수 있습니다.

OpenAI는 개발자 피드백을 받은 후 구체적인 변경 사항을 적용했습니다. 이러한 변경 사항의 예는 다음과 같습니다.

OpenAI는 AI가 모든 사람에게 혜택을 제공하려면 안정적인 서비스 제공이 필요하다는 점을 인식하고 있습니다. 이를 위해 OpenAI는 향후 몇 달 동안 가동 시간을 개선하기 위해 최선을 다하고 있습니다.

추천 이미지: Shaheerrr/Shutterstock

원천: 오픈AI