10가지 주요 예측: 2025년 AI에 대한 보안 코드 워리어와 시큐어 바이 설계의 영향

흥미진진하고 도전적인 한 해에 뒤이어 2025년을 앞두고 있는 지금, AI와 소프트웨어 개발의 교차점은 계속해서 의미 있는 방식으로 개발자 커뮤니티를 형성할 것입니다.

조직은 장기적인 생산성, 지속 가능성 및 보안 ROI를 지원하기 위해 AI 사용에 대한 어려운 결정을 내려야 합니다.지난 몇 년 동안 AI가 개발자의 역할을 완전히 대체할 수는 없다는 것이 분명해졌습니다.AI+ 개발자 파트너십부터 Secure-by-Design에 대한 기대치가 높아지는 압박 (및 혼란) 에 이르기까지, 내년에 우리가 기대할 수 있는 사항에 대해 자세히 살펴보겠습니다.
‍

AI 방정식 다시 쓰기: 개발자 대신 AI가 아니라 AI+개발자

“2025년에 기업들이 과감한 비용 절감 조치를 취해야 하는 상황에서 개발자들이 AI 툴링으로 대체되는 것은 놀라운 일이 아닙니다.하지만 제너레이티브 AI가 처음 등장했을 때 그랬듯이, 제너레이티브 AI는 수년간 업데이트되고 앞으로 더 많은 업데이트가 이루어질 예정이지만, 특히 코드를 만들 때 제너레이티브 AI는 여전히 안전하고 자율적인 생산성 동인으로 작용하지 못합니다.AI는 놀라운 애플리케이션과 사용 사례가 많이 있는 매우 파괴적인 기술이지만 숙련된 인간 개발자를 충분히 대체할 수는 없습니다.저도 이에 동의합니다. 포레스터 2025년 인공지능/인간 대체로의 전환은 실패할 가능성이 높으며, 특히 장기적으로는 실패할 것으로 예상됩니다.AI를 단독으로 사용하는 것보다 AI+개발자의 조합이 이를 달성할 가능성이 더 높다고 생각합니다.”

‍

AI는 다양한 위험과 기회를 제공합니다.

“2025년에는 환각 현상, 쪼그리고 앉은 라이브러리, 소프트웨어 공급망에 영향을 미치는 익스플로잇과 같은 알려진 문제의 부작용을 포함하여 AI 생성 코드에서 새로운 위험 사례가 나타날 것입니다.또한 AI는 코드의 결함을 찾아내는 데 훨씬 더 많이 사용될 것이며, 이를 악용하기 위한 익스플로잇을 작성하는 데에도 활용될 것입니다. 구글 프로젝트 제로 방금 시연했습니다.이와 대조적으로, 엔터프라이즈 개발자가 이러한 도구를 추가 위험을 가중시키지 않고 업무에 활용할 수 있게 되면 초기 수준의 성숙도에 도달하게 될 것이라고 생각합니다. 하지만 이는 규칙이 아니라 예외일 수 있으며, 개발자 위험을 적극적으로 측정하고 그에 따라 보안 프로그램을 조정하는 조직에 따라 달라질 수 있습니다.2025년에 닥칠 것으로 예상되는 빠르게 진화하는 위협 환경에서는 승인된 AI 코딩 도구를 갖춘 숙련되고 보안을 잘 아는 개발자만이 코드를 더 빠르게 생성할 수 있는 반면, 보안 인식이 낮고 일반적인 기술을 가진 개발자는 더 빠른 속도로 더 많은 문제를 발생시킬 뿐입니다.”

‍

브레이킹 아웃 오브 더 [AI] 섀도우

“AI와 관련된 입법 환경은 기술의 빈번한 발전과 채택률을 따라잡기 위해 빠르게 변화하고 있습니다.2025년에는 보안 리더가 잠재적 지침을 준수할 준비를 갖추어야 합니다.“섀도우 AI”의 특성을 이해한 다음, 조직에서 사용되지 않도록 하고, 회사 시스템에 설치된 승인되고 검증된 도구만 엄격하게 사용하는 등의 조합이 향후 조직에 가장 중요한 것으로 판명될 것입니다.이를 통해 개발 집단에 대한 더 큰 평가가 이루어질 것입니다. 개발 집단이 보안 역량을 지속적으로 향상시키고 이를 업무의 모든 측면에 적용하기 위해 최선의 지원을 받아야 하는 방법을 이해할 수 있을 것입니다.”

‍

AI Tools의 보안 상태는 개발자의 주요 척도가 될 것입니다

“지금은 LLM 기반 코딩 도구 측면에서 누구나 자유롭게 이용할 수 있는 시장입니다.새로운 추가 기능이 항상 등장하고 있으며, 각각 더 나은 출력, 보안 및 생산성을 자랑합니다.2025년으로 접어들면서 각 AI 도구를 벤치마킹하고 보안 상태를 평가할 수 있는 표준이 필요합니다.여기에는 코딩 기능, 즉 위협 행위자가 악용할 수 없는 우수하고 안전한 코딩 패턴으로 코드를 생성할 수 있는 기능이 포함됩니다.”

‍

AI는 주니어 개발자의 현장 진출을 어렵게 만들 것입니다

“개발자들의 진입 장벽은 그 어느 때보다 커졌습니다.하이브리드 및 분산형 인력과 초급 역할에 필요한 기술 수준이 높아짐에 따라 주니어 개발자의 기준은 매년 계속 높아지고 있습니다.2025년이 되면 고용주들은 주니어 개발자들이 실무 교육에 시간을 할애하는 대신 역할을 시작할 때 이미 AI 도구를 워크플로우에 안전하게 통합하고 최적화할 수 있는 기술과 지식을 갖추기를 기대하기 시작할 것입니다.개발 워크플로우에서 AI 도구를 활용하는 방법을 배우지 못하는 개발자는 향후 1년 이내에 경력 성장에 중대한 영향을 받게 되며 취업 기회를 확보하는 데 어려움을 겪게 됩니다.결국 안전한 AI 숙련도가 핵심이 될 것이기 때문에 개발자들은 '코딩 라이선스'를 방해할 위험이 있으며, 이로 인해 더 복잡한 프로젝트에 참여할 수 없게 됩니다.”

‍

시간이 흐르면 조직은 보안 설계를 실현하는 데 어려움을 겪을 것입니다

“개발자는 “Secure by Design”을 달성하기 위한 올바른 도구와 관행을 익히고 기술을 익히려면 충분한 시간과 자원이 필요합니다.조직이 보안 및 엔지니어링 리더의 동의를 얻지 못하면 개발이 저해되거나 완전히 중단될 수 있습니다.조직은 비용을 절감하거나 리소스를 제한하려고 할 때 장기적인 솔루션보다 즉각적인 문제 해결 노력을 우선시하는 경우가 많습니다. 즉, 일부 작업은 “무난한” 반면 나머지는 모두 “평범한” 다방면의 치료 도구에 초점을 맞춥니다.2025년에는 이러한 불균형으로 인해 보안 소프트웨어 개발을 우선시하는 조직과 변화하는 환경에 보조를 맞추기 위해 빠른 수정만 원하는 조직 간의 격차가 커질 것입니다.”

‍

공급망 보안 감사는 글로벌 위험을 완화하는 데 중요한 역할을 할 것입니다

“모든 아웃소싱/타사 공급업체에 대한 조사가 강화되기 시작할 것입니다.내부적으로는 최고 수준의 보안 프로그램을 보유할 수 있지만 아웃소싱하는 회사의 경우 Secure by Design을 실행하지 않으면 전체 보안 프레임워크가 손상될 수 있습니다.그 결과 조직은 아웃소싱 활동에 대한 철저한 감사를 받게 되며, 이로 인해 비즈니스 리더는 엄격한 보안 및 업계 규정 준수 지침을 따르도록 압력을 받게 됩니다.궁극적으로 보안팀의 성공은 조직 전체와 외부 파트너 전반의 통합된 접근 방식을 포함한 총체적인 360도 관점에 달려 있습니다.”

‍

AI는 “소음 차단”에 영향을 미칠 것입니다

”개발 팀은 코드 취약점 스캐너의 오탐률로 어려움을 겪고 있습니다.할당된 취약점이 실제로 보안 위험인지 어떻게 확신할 수 있을까요? 2025년에 AI는 개발자들이 코드 수정과 관련하여 “잡음을 없애고” 코드 자체를 더 깊이 이해할 수 있도록 도와주는 중요한 도구가 될 것입니다.AI는 머신 러닝을 활용하여 컨텍스트를 기반으로 실제 위협의 우선 순위를 더 잘 지정하여 보안 경고의 정확도를 개선하는 데 소요되는 시간을 줄일 수 있습니다.이를 통해 팀은 실제로 위험을 초래하는 취약점에 집중하여 전반적인 효율성을 높이고 더 빠르고 안전한 개발 주기를 가능하게 할 것입니다.”

‍

벤치마킹은 조직이 Secure by Design 목표를 달성할 수 있는 솔루션이 될 것입니다.

“보안 벤치마크가 없으면 2025년에는 조직에 해로울 수 있습니다. Secure by Design 표준 충족 진행 상황을 측정하기 위한 명확한 기준이 없기 때문입니다.팀이 보안 코딩 관행을 어떻게 준수하는지 평가할 벤치마킹 시스템이 마련되어 있지 않으면 이러한 조직은 실수로 취약점을 도입하여 중대한 보안 침해로 이어질 위험이 있습니다.그리고 보안 침해가 발생하면 벤치마킹 시스템을 구현할 시간이 없을 가능성이 높습니다. 오히려 개발자 팀의 보안 성숙도를 먼저 평가하지 않고 SBD 이니셔티브를 가속화해야 하기 때문에 궁극적으로 조직은 더 큰 위험에 노출됩니다.”

‍

AI 생성 코드로 인한 기술적 부채

“업계가 이미 기술 부채와 관련하여 엄청난 문제를 안고 있다는 것은 비밀이 아닙니다. 이는 이미 작성된 코드 때문입니다.경영진의 제한된 감독 외에도 본질적으로 안전하지 않은 AI 생성 코드에 대한 개발자들의 맹목적 의존도가 급증함에 따라 상황은 더욱 악화될 것입니다.이러한 추세로 인해 내년에 보고된 CVE가 10배 증가할 가능성이 매우 높습니다.”

‍

성공적인 2025년을 위해 조직은 개발 팀에 적절한 교육 및 위험 완화 투자와 함께 책임감 있고 안전하게 AI를 도입할 의향이 있어야 합니다.내년은 CISA가 Secure by-Design을 약속한 지 1주년이 되는 해이므로 경쟁 우위를 유지할 브랜드는 AI, 타사 보안 문제 및 새롭게 등장하는 위협과 관련된 위험을 가장 효과적으로 제거하기 위한 보안 개발 접근 방식을 우선시하는 기업입니다.