LLM 애플리케이션을 위한 OWASP 상위 10가지: 새로운 기능, 변경된 사항 및 보안을 유지하는 방법

소프트웨어 보안을 위한 사전 예방적 접근 방식을 취하려면 최신 표준 및 규정 준수 요건을 선도적으로 준수해야 합니다. 사이버 보안 환경은 특히 새로운 기술이 등장함에 따라 새로운 위협과 취약점으로 끊임없이 변화하고 있습니다. 매일 새로운 진화와 사용 사례가 등장하는 AI의 변곡점에 있는 오늘날이 그 어느 때보다 중요한 시기입니다. 

이러한 문제를 해결하기 위해 OWASP 재단은 최근 개발자, 아키텍트 및 기타 소프트웨어 배포에 기여하는 사람들에게 LLM 및 생성형 AI 애플리케이션을 배포할 때 발생할 수 있는 위험을 알리기 위해 대규모 언어 모델(LLM) 애플리케이션을 위한 OWASP Top 10의 업데이트 버전을 발표했습니다. Secure Code Warrior 또한 이 최신 버전의 변경 사항과 업데이트는 이미 보안 코드( learning platform)에 구현되어 제공되고 있음을 알려드립니다. 새롭게 제공되고 업데이트된 자료를 통해 모든 사용자는 LLM을 활용할 때 위험 완화의 최전선에 설 수 있습니다.

이번 업데이트의 새로운 기능은 무엇인가요?

OWASP는 이전 상위 10위에서 두 가지 항목을 삭제했습니다:

• 안전하지 않은 플러그인 디자인 - LLM이 플러그인과 상호 작용하는 방식 및 플러그인이 외부 저장소 또는 서비스와 상호 작용하는 방식과 관련이 있습니다. 
• 모델 도용 - 머신러닝 모델 또는 AI 시스템의 무단 복제 또는 획득을 의미합니다.

이전 버전의 OWASP Top 10에 따라, Secure Code Warrior 에는 이러한 취약점과 관련된 가이드라인이 LLM Top 10 과정의 일부로 포함되어 있었습니다. 취약성 및 보안 개념에 관한 이해하기 쉬운 정보를 이해하기 쉽고 읽기 쉬운 형식으로 제공하는 이 가이드라인은 이제 이 과정 커리큘럼에서 제거되었습니다. 그러나 이 가이드라인은 다른 모든 학습 자료와 함께 Explore에서 계속 이용할 수 있습니다. 

톱 10을 공식 10으로 유지하면서 OWASP는 두 가지 새로운 항목을 추가했습니다:

• 시스템 프롬프트 누출 - 일반적으로 모델의 행동을 안내하는 숨겨진 프롬프트가 사용자에게 노출되는 경우입니다.
• 벡터 및 임베딩 - 공개되지 않은 특정, 독점 또는 실시간 정보를 노출할 수 있습니다.

이러한 취약점에 대한 가이드라인은 LLM 상위 10개 코스에 추가되었으며, 제거된 가이드라인과 마찬가지로 자기 주도 학습을 활용하려는 사용자를 위해 Explore에서도 이 두 가지 가이드라인에 액세스할 수 있습니다.

마지막으로, OWASP는 목록의 기존 취약성 카테고리를 일부 변경하여 일부 카테고리의 이름을 더 광범위하거나 구체적으로 바꾸고 정의를 수정했습니다. 이러한 주제를 지원하는 가이드라인은 이제 OWASP 지침의 사소한 변경 사항과 새로운 명명 규칙을 모두 반영하도록 업데이트되었습니다. 또한 우선순위에 따른 목록이 OWASP LLM Top 10에 설정된 순서와 일치하도록 업데이트되었습니다.

Secure Code Warrior 에서는 사용자가 최신 트렌드를 앞서갈 수 있도록 최선을 다하고 있습니다. 최신 OWASP 업데이트는 이미 애자일 learning platform 에 반영되어 사용자가 최신 취약점을 다루는 최신 교육 자료에 쉽게 액세스하고 LLM 및 생성 AI 기술을 배포할 때 위험을 완화할 수 있도록 했습니다. 새로 도입된 시스템 프롬프트 유출 또는 벡터와 임베딩의 위협을 탐색하든, 잘못된 정보와 무제한 소비에 대한 이해를 업데이트하든, 저희 플랫폼은 보안 태세를 개선하는 데 필요한 이러한 중요한 개념을 숙달하는 데 필요한 리소스를 제공합니다.