AI ON : AI를 켜다 <AI 활용에 따른 보안 이슈와 대응💡>

 

AI 기술, 그저 빠르고 편리하게 쓰기만 하면 될까요? 디케이테크인은 그 질문에 “아니요”라고 답합니다. 프롬프트 하나로 생산성이 폭발적으로 높아지는 시대, 그만큼 보안 위협과 책임 역시 함께 커지고 있습니다.

 

이번 ‘AI 활용에 따른 보안 이슈와 대응’ 세미나는 이러한 변화 속에서 우리가 반드시 짚고 넘어가야 할 AI의 이면과 현실적인 위험을 함께 살펴보기 위해 마련되었습니다.

---

💡AI가 똑똑해질수록 우리가 놓칠 수 없는, 보안

 

AI는 이제 업무 속에서 빠질 수 없는 도구가 되었습니다. AI를 활용하며 일의 속도는 눈에 띄게 빨라지고, 생산성은 어느 때보다 높아졌죠.

 

하지만 AI가 편리해질수록, 한 번쯤은 꼭 짚고 넘어가야 할 질문이 있습니다.
"이 과정은 정말 안전할까?"

 

 

이번 세미나는 AI를 얼마나 잘 쓰느냐보다, AI가 실제 업무 환경에 들어왔을 때 발생할 수 있는 보안 이슈를 어떻게 바라보고 대비해야 하는지에 초점을 맞췄습니다.

 

✔️AI 툴이 만들어내는 압도적인 생산성의 흐름을 살펴보고
✔️실제 기업 환경에서 발생한 보안 위협 사례를 학습하며
✔️기술로 기술을 방어하는 대응 전략까지 함께 고민하는 시간

 

이러한 흐름 속에서, 세미나는 AI가 업무 환경에서 만들어내는 변화와 생산성을 직접 느껴볼 수 있는 두 번째 세션으로 자연스럽게 이어졌습니다.

---

📈생성형 AI가 바꾸는 일상

 

이번 두 번째 세션은 AI 보안 분야에서 오랜 경험과 전문성을 쌓아온 연사와 함께 진행됐습니다.
이날 강의를 맡아주신 분은 윤두식 대표님입니다. 👏

 

이번 세미나는 디케이테크인과 가천대학교가 함께 운영 중인 PBL 과정 프로그램 중 하나로 진행되었으며, PBL 과정에서는 총 두 분의 강사님을 모시고 두 차례의 AI 세미나가 진행되었습니다. 지난 세미나는 “생성형 AI로 내가 더 똑똑해지기”라는 주제로 우아한형제들 임동준 님께서 강의해 주셨고, 이번 세미나는 “기업 AI 활용에 따른 보안 이슈와 대응 방안”을 주제로 윤두식 대표님께서 진행해 주셨습니다.

 

윤두식 대표님은 생성형 AI 보안 기업 이로운앤컴퍼니의 대표이자 한국정보보호산업협회(KISIA) AI 보안 협의체 초대 의장으로 활동하며, AI 기술과 보안 이슈를 산업과 정책 관점에서 함께 다뤄온 전문가입니다.

 

현장의 실무 경험은 물론, 정부 정책과 제도 설계에도 참여해 온 만큼 AI를 쓰는 입장과 지켜야 하는 입장을 모두 아우르는 시각을 이번 세미나에서 깊이 있게 전해주셨습니다.

 

두 번째 세션은 AI 트렌드와 업무 환경의 변화를 주제로 문을 열었습니다. 강사님께서는 “이제 검색의 시대는 가고, 프롬프트 엔지니어링의 시대가 왔다”라고 말씀하시며, 생성형 AI가 가져온 압도적인 생산성 혁신에 대해 설명해 주셨습니다.

 

✔️프롬프트를 사용해 다람쥐 이미지가 도토리로, 다시 아이스 에이지 장면으로 순식간에 변하는 모습에 크루들의 눈이 반짝였습니다.
✔️‘젠스파크'와 같은 AI 툴을 활용해 30페이지 분량의 슬라이드를 단 10분 만에 완성하는 시연은 현장의 모두를 놀라게 했습니다.

 

AI가 만들어낸 생산성의 변화는 인상적이었지만, 디케이테크인의 교육은 여기서 멈추지 않습니다. ‘좋은 도구일수록 그 위험성도 정확히 알아야 한다’는 철학 아래, 세미나는 곧바로 AI의 이면과 보안 이슈를 짚어보는 다음 단계로 이어졌습니다.

---

⚠️편리한 AI, 안전까지 챙겨야 완벽

 

편리함 뒤에 숨겨진 보안 위협 세션에서는 그야말로 현실적인 경각심을 깨우는 시간들이 이어졌습니다.

 

✔️딥페이크 피싱의 공포: 홍콩 금융사 직원이 딥페이크로 생성된 가짜 임원진 화상회의에 속아 약 300억 원을 송금한 사례
✔️프롬프트 인젝션 해킹: 이력서에 흰색 글씨·초소형 폰트로 AI에게 특정 판단을 유도하는 명령어를 숨겨 채용 시스템을 교란하는 기법
✔️환각의 책임: 에어캐나다 챗봇의 잘못된 안내로 인해 발생한 분쟁에서 기업의 책임을 인정받아 법적 패소로 이어진 사례

 

단순히 ‘조심하자’는 구호가 아니라, 실제 기술적 원리와 해킹 메커니즘을 상세히 학습함으로써 크루들이 스스로 기술적 방어력을 높일 수 있도록 돕는 것이 이번 세미나의 핵심이었습니다.

---

🛡️AI로 더욱 철저하게 보안을 지키는 방법

 

그럼 기업은 어떻게 막아야 하나요?

디케이테크인은 개발 중심의 회사답게, 대응책 역시 시스템 구조 전반을 기준으로 접근했습니다.

강사님께서는 LLM 게이트웨이와 AI 방화벽 구축 전략을 제시하며, 단순 차단이 아닌 문맥 기반 보안의 중요성을 강조했습니다.

 

❌ “주민번호를 알려줘” (민감정보 유출 시도) → 차단
⭕ “주민번호 입력값을 확인하는 간단한 코드 예시를 작성해 줘” (업무 목적) → 허용

 

질문의 의도와 맥락을 분석하는 보안 AI를 통해 업무 효율과 보안을 동시에 확보하는 고도화된 전략이었는데요. 실무에 바로 적용 가능한 깊이 있는 인사이트에 크루들의 펜 놀림이 바빠지는 순간이었습니다.

---

👥열정 가득한 디케이테크인의 AI 세미나, 그 비결은?

 

이번 세미나의 하이라이트를 꼽자면 단연 Q&A 시간이었습니다. 온·오프라인을 합쳐 약 100명의 크루가 함께한 가운데 예정된 시간을 훌쩍 넘길 만큼 질문이 이어졌고, 그 장면만으로도 디케이테크인 크루들이 AI와 보안을 ‘듣는 주제’가 아니라 ‘내 일에 적용해야 할 기술’로 받아들이고 있다는 것이 느껴졌습니다.

 

✔️“프롬프트 인젝션을 막기 위한 구체적인 파라미터 설정은 어떻게 되나요?”
✔️“사내 구축 시 오픈소스 LLM과 상용 모델 간 보안 측면의 차이는 무엇인가요?”

 

단순한 호기심을 넘어, 실무 환경을 전제로 한 질문들이 쏟아졌고 강사님 역시 “이렇게 날카롭고 수준 높은 질문은 처음”이라며 감탄을 아끼지 않으셨습니다. 👏

 

작년 ‘Connect AI’가 빠르게 변화하는 AI 트렌드를 함께 살펴보며 우리의 일과 조직에 어떤 가능성을 가져올 수 있을지 함께 탐색하는 시간이었다면, 올해의 ‘AI ON : AI를 켜다’ 세미나는 “AI를 어떻게 더 자연스럽게 실무 안에 녹여낼 수 있을까?”라는 질문에서 출발해 AI를 활용하고, 내재화하는 데 집중한 실전형 세미나로 준비되었습니다.

 

테크니컬 라이팅과 LLM 활용을 시작으로, 정보 보안과 AI의 결합, 실무에 바로 쓰는 AI 기술 적용, 그리고 개발 프로세스 전반에 AI를 내재화하는 단계까지 이번 ‘AI ON : AI를 켜다’ 세미나는 AI를 어떻게 활용할 것인지에서 출발해, 어떻게 안전하게 적용하고 실무 안에 정착시킬 수 있을지를 단계적으로 설계한 세미나 시리즈였습니다.

 

그 방향은 분명합니다.
👉 모든 크루가 AI와 함께 더 똑똑하고, 더 효율적으로 일할 수 있도록 돕는 것

 

질문이 멈추지 않았던 Q&A 현장은 PALETTE가 지향하는 방향이 이미 현장에서 자연스럽게 실현되고 있음을 보여주는 장면이었습니다. 🙌

---

질문과 토론이 오가며 현장은 끝까지 집중도 높은 분위기로 이어졌고, 배움에 대한 크루들의 진지한 태도가 인상적이었는데요.

 

앞으로도 이런 깊이 있는 논의가 이어질 다음 세미나가 더욱 기다려집니다. 😊