ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- 에이전트가 난폭하게 실행되면 OpenAI API 지출이 빠르게 증가할 수 있습니다.
- 엄격한 제한은 예상치 못한 API 청구를 방지하는 데 도움이 됩니다.
- 경고 및 속도 제한은 또 다른 보호 계층을 추가합니다.
지난번 밤, 나는 이상한 악몽 때문에 축축한 땀을 흘리며 일어났습니다. 이것은 갈퀴와 횃불, 불타는 해골(또는 둘의 조합)을 들고 마을 사람들에게 쫓기는 전형적인 악몽이 아니었습니다.
아니요, 내 AI 앱이 수백 명의 에이전트를 생성하기로 결정한 것은 악몽이었습니다. 이들 에이전트는 모두 API 호출을 하여 API 사용 비용이 계속해서 증가했습니다. 악성 AI가 내 신용카드에 과도한 지출을 하는 것은 불타는 해골에게 잡아먹히는 것보다 한 단계 낫지만 여전히 기분이 좋지는 않습니다.
또한: Codex와 Claude 덕분에 이틀 만에 4,700줄의 코드로 대규모 WordPress 스팸 공격을 막은 방법
OpenAI는 불타는 해골을 도울 수는 없지만 API 청구서가 부풀려지는 악몽의 위험을 줄이는 데 도움이 될 수 있습니다. 귀하가 해야 할 일은 계정에 사용 제한을 설정하는 것뿐입니다. 이 기사에서는 그 방법을 보여 드리겠습니다.
시작하기
OpenAI 계정에 로그인하고 지출 한도 페이지로 이동합니다. 여기서 많은 일이 일어나고 있습니다. 지출 한도, 지출 알림, 요율 한도 및 사용 등급을 살펴보겠습니다. 각 항목은 카드 손상 정도에 영향을 미칩니다.
사용 계층 이해
API 여정 초기에 과도한 지출을 방지하기 위해 사용 계층부터 시작하겠습니다.
예를 들어, API 호출에 총 50달러를 지출할 때까지 Tier 1에 고정됩니다. 이 설정은 사용 제한을 설정하지 않더라도 OpenAI에서 월 100달러 이상 지출을 허용하지 않음을 의미합니다. 키워드 분석을 위해 Karakeep Docker 서버에 API를 연결했지만 1년 넘게 사용하면서 여전히 50달러를 깨뜨리지 않았기 때문에 저는 Tier 1에 있습니다.
50달러를 지출하면 Tier 2로 이동하여 월 500달러를 지출할 수 있습니다. 총 $100를 지출하면 Tier 3에 들어가며, 매월 최대 $1,000를 지출할 수 있습니다. API 사용량에 대해 총 250달러를 지출하면 계층 4로 이동하여 월 최대 5,000달러를 지출할 수 있습니다.
또한: Gemini와 Claude에게 이메일 답장을 쓰라고 했는데 딱 한 명만 나와 비슷한 것 같아요.
이는 상당히 큰 최고 한도이지만 OpenAI에 지불한 1,000달러에 도달하면 수문이 열립니다. OpenAI를 사용하면 한 달에 최대 200,000달러를 지출할 수 있습니다.
이 시나리오를 생각해 보세요. OpenClaw를 OpenAI API 계정에 연결하고 몇 달 안에 API 호출에 $1,000를 지출했습니다. 그러던 어느 날 OpenClaw는 어떤 작업을 수행하기 위해 에이전트 군대를 시작하기로 결정하고 시작합니다. 그 무질서한 짐승은 당신이 계정을 폐쇄할 기회를 얻기도 전에 당신의 계정을 수십만 달러에 폭파할 수 있습니다.
그렇기 때문에 구체적인 지출 한도를 설정해야 합니다.
지출 한도 이해
지출 한도 페이지로 돌아가겠습니다. (1에서) 보시다시피 저는 Tier 1에 있습니다.
여기서 많은 일이 일어나고 있습니다. (2)에서는 “사용량에 따라 실제 비용이 이 금액을 초과할 수 있습니다.”라는 페이지가 표시됩니다. 이 메모는 사용자가 지시하지 않는 한 OpenAI가 지출에 엄격한 제한을 두지 않기 때문입니다. 엄격한 제한이 없으면 인프라가 중단되지 않는다는 아이디어입니다. 그러나 물론 더 많은 비용을 지출할 수도 있습니다. 잠시 후에 이 문제를 해결하는 방법을 보여 드리겠습니다.
또한: 4년 간의 제품 개발을 4일 만에 200달러에 완료했지만 여전히 놀랍습니다.
(3)에서 해당 계정이 자동 충전을 허용하는 것을 확인할 수 있습니다. 연필 아이콘을 클릭하면 리필 충전량을 제어할 수 있습니다.
토글 버튼을 클릭하여 자동 충전을 끌 수 있습니다. 그렇게 하면 한도 페이지가 업데이트되며 더 이상 이 페이지에서 자동 충전을 다시 설정할 수 없습니다. 대신 왼쪽 메뉴에서 결제를 클릭하세요.
보시다시피 내 크레딧 잔액은 지난번 계정 충전 이후 $7.77입니다. 자동 재충전 설정 버튼을 누르면 자동 재충전 대화 상자가 열리고, 여기에서 다시 켤 수 있습니다.
마지막으로, 이 섹션의 시작 부분에 표시된 한도 화면으로 돌아가서 (4)에서 지출 알림을 지정하고 예산의 일정 비율에 도달하면 이메일 알림을 받을 수 있습니다.
알림이 실행되기를 원할 때 지출 비율을 설정할 수 있습니다. 이메일 경고 알림을 보낼 위치를 지정할 수도 있습니다.
엄격한 제한 설정
실제 비용이 설정한 지출 한도를 초과할 가능성이 있다는 생각이 마음에 들지 않으면 엄격한 한도를 설정할 수 있습니다. 한도 화면에서 지출 한도 편집 버튼을 클릭하세요.
하드 제한 적용 토글을 확인하세요. 특히 사용량이 더 높은 계층 중 하나에 있는 경우 이 기능을 켜는 것이 좋습니다. 이 단계를 수행하면 429 오류와 함께 API 호출이 거부되지만 필요한 것보다 더 많은 비용을 지출하지는 않습니다.
AI를 호출할 때 코드가 오류 조건을 확인하는지 확인하세요.
비율 제한 이해
OpenAI에는 사용 중인 모델에 따라 분당 요청 수, 일일 요청 수, 분당 토큰 수, 일일 토큰 수 및 분당 이미지 수를 제한하는 속도 제한도 있습니다.
OpenAI는 “API의 남용이나 오용으로부터 보호”하고 “모든 사람이 API에 공정하게 액세스할 수 있도록 보장”하며 “OpenAI가 인프라의 총 부하를 관리하도록 지원”하기 위해 속도 제한이 있다고 말합니다.
또한: 통제력을 잃기 전에 AI 에이전트를 열정적이지만 잘못된 방향으로 인도하는 인간 인턴처럼 대하십시오.
OpenAI에는 속도 제한을 코딩하는 방법에 대한 가이드가 있습니다. 한 가지 권장 사항은 짧은 절전 모드 후에 자동으로 재시도하는 지수 백오프를 사용하고 요청이 완료되거나 선택한 재시도 임계값을 초과할 때까지 이 작업을 몇 번 수행하는 것입니다.
결론
여기서의 결론은 간단합니다. 악성 AI가 예산을 초과하지 않도록 지출 한도를 설정하세요. 속도 제한은 구성하기가 매우 쉽기 때문에 계정을 보호하는 데 있어 당연한 일입니다.
화난 마을 사람들을 막지는 못하지만 AI API 지출을 관리하는 데 도움이 될 것입니다. 그리고 그것은 적어도 뭔가입니다.
소셜 미디어에서 저의 일상적인 프로젝트 업데이트를 팔로우하실 수 있습니다. 내 주간 업데이트 뉴스레터를 구독하고 Twitter/X에서 나를 팔로우하세요. @DavidGewirtzFacebook(Facebook.com/DavidGewirtz), Instagram(Instagram.com/DavidGewirtz), Bluesky(@DavidGewirtz.com), YouTube(YouTube.com/DavidGewirtzTV).
자세한 정보 확인