AI 코딩 도구는 소프트웨어 개발을 더 빠르고 쉽게 만들어 주기로 되어 있었습니다. 그랬지만 아마도 조금은 너무 좋았을 것입니다. 사람들은 그 어느 때보다 빠르게 코드를 작성하고 있으며 이는 회사에 완전히 새로운 문제를 야기했습니다.
The New York Times에 따르면, 한 금융 서비스 회사는 AI 코딩 도구인 Cursor를 사용하기 시작했고, 한 달에 25,000줄에서 250,000줄의 코드를 생성했습니다. 그것은 승리처럼 들리지만 검토되지 않은 코드 백만 줄의 백로그를 생성했습니다.
“전송되는 코드의 양과 취약점의 증가는 그들이 따라갈 수 없는 것입니다.”라고 이 회사와 협력하는 보안 스타트업인 StackHawk의 CEO인 Joni Klippert는 말했습니다.
문제는 실리콘 밸리 전체로 퍼졌습니다. 이제 기업에서는 검토할 인력보다 더 많은 코드를 생성하고 있으며, 이러한 격차는 보안 위험이 되고 있습니다.
그렇다면 문제는 무엇입니까?
AI가 생성한 코드에서 오류를 잡는 역할을 애플리케이션 보안 엔지니어라고 합니다. 거의 충분하지 않습니다. Costanoa Ventures의 고문인 Joe Sullivan은 “지구상에는 미국 기업이 필요로 하는 것을 충족할 만큼 애플리케이션 보안 엔지니어가 충분하지 않습니다.”라고 말했습니다.
단순히 인력 문제만은 아니다. AI 코딩 도구는 안전한 회사 서버보다 개인 노트북에서 더 잘 작동합니다. 이는 엔지니어가 전체 코드베이스를 개인 장치에 다운로드한다는 의미입니다. 노트북이 분실되면 많은 민감한 데이터도 분실됩니다.
더 많은 AI가 정말 답일까요?
예상대로 실리콘밸리는 그렇게 생각한다. Anthropic, OpenAI, Cursor와 같은 회사는 이미 AI 생성 코드에서 오류를 잡는 데 도움이 되는 AI 기반 검토 도구를 구축하고 있습니다. Cursor는 이를 자사 제품에 구현하기 위해 코드 검토 스타트업을 인수하기도 했습니다.
Cursor의 엔지니어링 책임자는 “소프트웨어 개발 공장이 망가졌습니다. 우리는 어떤 의미에서 부품을 재배치하려고 노력하고 있습니다.”라고 말했습니다.
나는 의심이 든다. 예, AI는 결국 코드의 오류를 찾아낼 수 있지만 최종 제품을 출시하기 전에 여전히 사람의 검토가 필요합니다. 최근 AI 코드로 인해 Amazon이 중단되어 100,000건이 넘는 주문이 손실되고 160만 건의 오류가 발생했습니다.
어떤 회사도 그런 일이 일어나는 것을 보고 싶어하지 않으며 AI 코드 검토자가 답인지 확신할 수 없습니다.